Índice de volúmenes - Índice de revistas - Índice de artículos - Mapa ---- Atrás


Revista Comunicar 21: Tecnologías en la era de la comunicación (Vol. 11 - 2003)

Evaluación de centros de recursos en la Red: el caso de Octopus

Evaluation of on line resource centres

https://doi.org/10.3916/C21-2003-09

Antonio Medina-Rivilla

Vito Carioca

Aldo Pasarinho

Abstract

El creciente desarrollo de centros de recursos en la Red está demandando de forma progresiva la puesta en marcha de estrategias de evaluación de los mismos que permitan su mayor optimización. Los autores de este trabajo desarrollan una metodología específica para la valoración de un centro específico en la Red, Octopus.

Resource centres offer teachers different means to improve and make their work easier. The present paper shows a programme to evaluate resource centres trying to notice their different aspects and highlighting their relevance nowadays. To make it possible, the programme implies a holistic perspective and analyses each one of their elements.

Keywords

Centros de recursos en Red, evaluación, evaluación de programas

Resource centres, evaluation, evaluation programme

Archivo PDF español

La evaluación de un programa representa la valoración integral del mismo, especialmente su estructura, la coherencia entre sus componentes y la repercusión en la transformación de la realidad que pretende mejorar. El programa es una opción organizada para ofrecer nuevas ideas, formas de comportamiento y posibilidades para encontrar salidas a las prácticas formativas en particular y a las acciones humanas en general, aportando continuas modalidades de trabajo y de desarrollo integral para el propio programa.

Evaluar la calidad de un programa cultural y/o sociocultural con base tecnológica es comprender la implicación y proyección holística que el programa en su globalidad tiene en la realidad que pretende mejorar, estimándolo en su integridad y analizando la potencialidad de cada uno de sus componentes en sí mismos y en estrecha interdependencia, ampliándolos a las fases y a su secuencia. El artículo presenta un cuadro conceptual para evaluar un centro de recursos online, teniendo en cuenta sus distintas vertientes.

1. Estimación de la calidad del centro de recursos en la Red

• Estimar la calidad formativa del programa del centro de recursos en la Red requiere atender a los siguientes aspectos, evidenciando si se han conseguido los logros esperados:

• Comprender el sentido formativo-comunicativo del programa: diseño de centro de recursos en la Red.

• Desvelar la realización del diseño y su proyección en el desarrollo así como la complementariedad: análisis de sus componentes.

• Constatar el impacto del programa en la mejora de la cultura que comparten las personas que lo utilizan.

• Desarrollar y valorar la incidencia demorada de un programa en la evolución de las personas al menos a partir de los dos años del uso del centro de recursos en la Red.

• Comprender el sentido formativo/comunicativo del programa del centro.

• La evaluación del programa, a nuestro juicio, ha de centrarse en entender la naturaleza formativa y la facilidad comunicativa del mismo. El programa sociocultural representa un hallazgo y una base para dar sentido integrado al conjunto de actividades recreativas que lo constituyen. La evaluación está unida a una concepción y justificación del programa y del centro de recursos.

Entendemos que una sociedad del conocimiento ha de aprovechar todos los recursos a su alcance, especialmente el de interactividad formativa y el de compromiso con todos los jóvenes en sus proyectos de vida y proyección personal. La evaluación del poder formativo de un programa se hace realidad en la estimación rigurosa y contrastada del significado y aportación integral de sus propuestas, dado que cada comunidad necesita una atención y un marco de mejora permanente.

La característica a evaluar en un centro de recursos en la Red es su poder comunicativo y formativo de deleite y entretenimiento que representa para las personas que participan en él. Así hemos de estimar si el lenguaje verbo-icónico, las secuencias comunicativas, el texto y los espacios textuales y abundando en el análisis de los códigos, los conceptos esenciales y los mensajes implícitos/explícitos del programa.

La evaluación del programa del centro de recursos es esencialmente una estimación y una justificación de su pertinencia en el marco de la «E-ed» y en sí mismo, dado que la coherencia entre el centro y la globalidad debe marcar el sentido integral de su gestión. Nos hemos de cuestionar los aspectos nucleares y las claves con las que debemos proceder para dar respuesta a las decisiones que se esperan adoptar partiendo del informe de este trabajo.

Pérez Juste (1995), retomando la aportación de Nero (1986), considera que la evaluación de un programa en nuestro caso de un centro de recursos en la Red, ha de responder a las preguntas básicas: ¿cómo se define la evaluación?, ¿qué funciones tiene?, ¿cuáles son los objetos de evaluación?, ¿qué tipo de información debe recogerse?, ¿qué criterios han de emplearse para juzgar el mérito de un objeto?, ¿a quién debe servir una evaluación?, ¿cuál es el proceso de realización de una evaluación?, ¿qué métodos de investigación debemos emplear?, ¿quién debe hacer la evaluación?, ¿por qué estándares debe ser juzgada la evaluación?

Este conjunto de preguntas hemos de considerarlas y adaptarlas a la estimación de la calidad del centro de recursos en la Red, atendiendo a los tres componentes más representativos de la realidad del centro: su sentido y transformación tecnológica, unido a las finalidades más representativas que debe cumplir, al servicio de nuevos valores ecológicos; el contenido, estructura y componentes básicos del centro; y la interrelación del centro de recursos con el conjunto ingente y absorbente de la multi-información de la Red.

2. Fundamentación del modelo, procesos, pruebas y criterios de evaluación del centro en la Red

La creación de cuestionarios, entrevistas y procesos estimativos de la calidad del centro de recursos, necesitan apoyarse en una clara fundamentación, conscientes de que una de las tareas que más pueden incidir en la mejora del centro es la evaluación, en su máxima amplitud, adaptando la metodología y las técnicas en función de la especificidad del centro de recursos y del potente medio de fácil acceso como es la web.

Pretendemos apoyarnos en las preguntas centrales, emergidas en el trabajo citado de Nero (1986) y replanteadas por el profesor Pérez (1995), su adecuación a cada realidad educativa se ha de realizar en coherencia con las nuevas necesidades de información formadora y de tareas esencialmente satisfactorias y creadoras de opinión y valores ecológicos.

• La evaluación del centro es entendida como una de las actividades más indagadoras y configura doras de saber-hacer y de mejora permanente de la realidad evaluada.

• La evaluación crea un juicio estimativo, ponderado y transformador de la realidad evaluada, aportando los modelos y formas de reflexión ajustadas a la situación o realidad evaluada.

• La evaluación del centro propicia su conocimiento en todas sus fases: diagnóstico del centro, diseño (fase esencial del actual periodo), desarrollo y estimación crítica permanente. La evaluación llena de sentido la acción realizada y permite adoptar las decisiones más pertinentes para su mejora continua. La evaluación se integra en la globalidad del sistema y le aporta las bases para entenderse en toda su complejidad, retomando de la indagación el rigor y la calidad de los datos emergidos, a la vez que conlleva el compromiso de la mejora, la ampliación del sentido y la importancia del valor ético transformador de la acción evaluadora.

• La evaluación ha de estimar objetos y acciones específicos, que sean susceptibles de valorarse y adoptar las actuaciones pertinentes para la mejora. El objeto de esta evaluación es el centro de recursos en la Red, diseñado para promover un modelo propio de empleo formativo y ecológico, sirviendo a los usuarios para incrementar el saber, mejorar las prácticas ciudadanas y despertar el verdadero sentido de la relación de las personas con su medio, generando un uso nuevo de la Red para cuidar el medio y encontrar las soluciones más adecuadas al mismo.

El proceso de evaluación está estrechamente ligado al empleo de los métodos y la perspectiva de evaluación formativa, en el marco de una opción creadora de conocimiento y el compromiso con la verdad y la mejora integral del proyecto «Centro de recursos formativos y de mejora del medio en la Red»; que nos avalan para encontrar las claves de una nueva educación-formación ambiental. Nos hemos de situar en las decisiones claves:

• ¿Qué nos preocupa como problema central de evaluación?

• Retomar y analizar el mayor número de datos, los más relevantes, atendiendo a los implicados, al centro en sí, al contexto, a su proyección, a la mejora continua, etc.

• Informar del proceso y resultados de la evaluación a los implicados, proporcionándoles las ideas, las claves y los compromisos con la mejora pretendida.

El proceso evaluador está estrechamente ligado a la perspectiva metodológica pretendida y al plan de acción que nos proponemos desarrollar. Los métodos son tan abundantes como los objetos de evaluación, las disciplinas coadyuvantes y los modos de atender el proceso evaluador, procurando un enfoque plurimetódico, apoyado tanto en visiones cualitativas como cuantitativas, aunque dada la naturaleza de este objeto: debiera junto a la visión más consolidada, ampliarse con algún método y técnica específica que nos permita:

La evaluación del desarrollo del centro de recursos ha de estimar entre otros aspectos los siguientes (Medina, 2003): 1) La calidad de la realización: texto, imágenes, contexto; 2) La incardinación en el conjunto de los programas de la Red: la secuencia, organización y realización de cada sesión del programa; 3) El discurso creado, los espacios interactivos y la línea narrativa, en su complementariedad; 4) La coherencia entre lo diseñado y aplicado en sus grandes componentes: objetivos pretendidos, actividades lúdico/formativas, mensaje explícito e implícito, estructura interactiva: imágenes, texto, discurso, método comunicativo utilizado, etc.

3. Fases del proceso de evaluación de un centro de recursos en la Red

El cuadro de presupuestos de orden epistemológico que fundamentan el proceso de evaluación del centro de recursos en la Red, designado «Octopus», debe entenderse, en primer lugar, en el cuadro del conjunto de objetivos generales identificados para el proyecto y, entre ellos, por la pertinencia y adecuación a la materia en análisis:

• La creación de un centro de recursos en la Red.

• La creación y optimización de una base de datos internacional en educación ambiental.

• La pesquisa y evaluación de recursos existentes en esta área.

En segundo lugar, se asume, en términos prácticos de concretización de la evaluación, situar tres momentos clave en que se insertan 1) La componente evaluación del prototipo en su versión alfa; 2) Una evaluación intermedia, integrada por la evaluación de la versión beta del prototipo, por la disponibilidad en Red de un cuestionario a los usuarios registrados y no registrados y complementada como recursos a experts en el área tecnológica y ambiental y, por último, una evaluación de la versión final del centro de recursos.

La primera fase –evaluación de la versión alfa del prototipo, aplicación del modelo heurístico de interfaces de Nielsen (1993)– asume como objetivos prioritarios: 1) La creación de un instrumento para evaluar la aplicación de las pruebas de utilización a los usuarios del sistema (www.octopus-eu.org); 2) Contextualizar las pruebas de uso en el contexto global de la evaluación del proyecto.

La segunda fase –evaluación intermedia– debe entenderse siguiendo dos dimensiones: 1) Una primera, la evaluación del artefacto tecnológico, en cuanto que prototipo en su versión beta, a efectuar por especialistas y a través de la aplicación de test de utilización a los usuarios y asociados; 2) Una segunda (detrás de la versión definitiva del prototipo) hecha a través de dos cuestionarios en Red, para aplicar a todos los usuarios del Centro de Recursos.

La tercera fase –evaluación final– a realizar al final del proyecto, y que resultará del análisis del volumen de información recogido con la aplicación de los dos cuestionarios en Red, y que tienen como fin evaluar la interacción usuario/sistema/recursos.

2. Evaluación de la versión alfa del prototipo

Según Hackos y Redish (1998: 386-387), la evaluación de un prototipo junto a sus usuarios, servirá para verificar hasta qué punto éste funciona en las siguientes dimensiones: ¿transmite un modelo conceptual consistente?, ¿corresponde al modelo mental de los usuarios?, ¿corresponde al modo de trabajo de los usuarios?, ¿utiliza sus palabras?, ¿abarca las tareas que los éstos esperan que el producto permita realizar?, ¿funciona para todas las situaciones o escenarios que los usuarios dicen que ocurren?, ¿garantiza un flujo de tareas para éstos?, ¿ayuda a que los usuarios hagan la transición de lo que hacían anteriormente (o de la forma como realizaban la misma tarea, sin el producto a evaluar?, ¿divide bien el trabajo entre el ordenador y el usuario?, ¿proporciona mensajes cuando los éstos necesitan de ellos?, ¿mantiene la consistencia entre el aspecto y el sentido a lo largo de las diferentes pantallas?, ¿mantiene la consistencia en la localización donde los botones, iconos y otras herramientas de navegación están colocadas a lo largo de las diferentes pantallas?, y ¿mantiene la consistencia del vocabulario usado a lo largo de las diferentes pantallas?

Estas dimensiones, todavía según los mismos autores, pueden ser evaluadas a través de la navegación en el prototipo (walk-through) a partir de un escenario creado, el cual representa una «historia» o situación creada, para que se obtenga una visión de cómo los usuarios desempeñan una tarea en interacción con el sistema, identificando problemas resultantes de opciones de diseño erróneas o ilógicas, opciones que podrán perjudicar la calidad de la interacción al nivel de la facilidad y rapidez con que los usuarios desempeñan las tareas propuestas, y que están en la base conceptual del desarrollo de la aplicación a testar.

Hackos y Redish consideran que la navegación por el prototipo, con base en escenarios, será la primera técnica de evaluación, principalmente si ésta fuese hecha con alguien que no son sus «reales» usuarios, siendo pues esencial que se hagan pruebas de utilización con los usuarios representativos de aquéllos a quienes la aplicación se destina. Será, pues, la imposibilidad de que testeemos el prototipo junto al de los usuarios «reales» de la aplicación, que condujo a la opción de que testeemos el prototipo junto a los usuarios representativos de aquéllos a quien la aplicación se destina, estructurando las pruebas de utilización en función de escenarios, previamente establecidos y con base en tareas reales. Además de la opción de estructurar las pruebas de utilización mediante escenarios previamente establecidos, se consideró necesaria la adopción de un método de evaluación, que ofreciese garantías de que la evaluación resultante del análisis de las pruebas de utilización, diese indicaciones útiles para el incremento cualitativo de las interfaces gráficas del prototipo en su versión alfa, de forma que, la versión beta reflejase cualitativamente el resultado de esa evaluación. La opción recayó pues, sobre la adopción del método de evaluación heurística de interfaces gráfica (Nielsen, 1993)2.

El método de evaluación heurística adoptado en este estudio es soportado por el conjunto de heurísticas de utilidad de interfaces, propuestas por Nielsen (1993), las cuales pueden, simultáneamente, servir para analizar interfaces gráficas u otras mediadoras de la interacción entre el hombre y la máquina. De acuerdo con este autor, las heurísticas que conducen al éxito de la interacción, entre usuarios e interfaces, son: un diálogo simple y natural; hablar el lenguaje del usuario; minimizar el recurso a la memoria de éste (user memory load); consistencia; feed-back; marcaciones de salida claras; atajos; buenos mensajes de error; prevenir los errores; ayudas y documentación.

3. La segunda fase: la evaluación intermedia del centro de recursos

3.1. La evaluación del prototipo en su versión beta

La aplicación de los instrumentos identificados como pruebas de utilización (Nielsen, 1993), en las instituciones asociadas, permitió obtener un conjunto de resultados que, en términos prácticos, se tradujo en la rectificación de las interfaces hasta la versión.

En esta etapa, y teniendo en cuenta el hecho de que consideramos de mayor utilidad la aplicación de las pruebas de utilización a un mayor número de sujetos, se construyeron nuevos instrumentos (pruebas de usabilidad). Por otro lado, se asumió la importancia del recurso a especialistas en esta área, en el sentido de validar el contenido funcional del prototipo en su versión beta. Esta opción es asumida en el cuadro de procedimientos que estructuran un diseño de investigación (técnica del panel de jueces). Al considerar estas cuestiones, en torno a la evaluación formativa de sistemas multimedia, Tessmer (1996: 197) refería que «experts are used in individual and group evaluations of rough drafts of the final product, because of the costs and complexity of multimedia development, it is important that a prototype be evaluated as part of the initial multimedia design phase. A prototype is a working model that contains critical elements of the program ».

3.2. Aplicación del cuestionario en la Red

De acuerdo con los presupuestos de la investigación, fueron construidas dos investigaciones por cuestionario, para que fuesen aplicadas en la Red, detrás de la versión definitiva del prototipo, y que serían, en una primera fase, incluidos en la evaluación intermedia.

Al reflexionar estas cuestiones, es importante referir la validez interna de un instrumento de este tipo. Tuckman (2000) opina que ella se refiere a todo el constructo, desde la fundamentación teórica hasta su versión definitiva. En esta investigación, asumimos como criterios de validez los siguientes:

• Revisión de la literatura, incidiendo sobre estudios en el campo de los sistemas multimedia, concretamente a nivel de la elaboración de cuestionarios en la Red (Carioca, 1995; Costa, 1999). Estos estudios permitieron identificar un conjunto de categorías e ítem a incluir en el estudio. Todos éstos fueron testeados, asegurándose su validez.

• Clarificación epistemológica de conceptos utilizados, con base en la reflexión conjunta del grupo de especialistas integrantes de los equipos de la asociación. El elevado conocimiento empírico-especulativo y científico en esta área permitieron elaborar un conjunto de ítem a considerar para la versión del anteproyecto de cuestionario.

• Entrevista exploratoria no estructurada a especialistas en la materia, que permitieron agrupar un conjunto de ítem.

• Elaboración de la versión del anteproyecto de cuestionario.

• Pre-prueba del cuestionario. Esta fase permitiría identificar algunas limitaciones a nivel del constructo y significado de algunos ítem y, consecuentemente, a su clarificación conceptual. Por otro lado, el instrumento fue aplicado a un conjunto de posibles usuarios del sistema Octopus, en el sentido de identificar también situaciones limitativas.

• Versión definitiva del cuestionario.

La validez externa del cuestionario sería asegurada en el contexto de la evaluación de las funcionalidades del prototipo, en su versión beta, pues, como funcionalidad integrante del sistema, será igualmente objeto de apreciación valorativa por el panel de especialistas.

Notas

1 Proyecto financiado por el programa comunitario Sócrates-Minerva (90120-CP-1-2001-1-Minerva-M).

2 Un método de evaluación heurística que tiene como una de sus principales ventajas la economía de recursos, resultante de no ser necesario aplicar un elevado número de pruebas para detectar gran parte de los problemas de utilización.

Referencias

CABERO, J. y GISBERT, M. (2002): Materiales formativos multimedia en la Red: Guía práctica para su diseño. Sevilla, Universidad de Sevilla.

CARIOCA, V. (1995): Contributos para a concepção e aplicação de uma grelha paramétrica de avaliação de software multimédia educativo. Trabalho realizado no âmbito do Curso de Doctorado en Formación del Profesorado. Badajoz, ICE

COSTA, F. (1999): Contributos para um modelo de avaliação de produtos multimédia centrado na participação dos professores. Aveiro, I Simpósio Ibérico de Informática Educativa.

DIAS DE FIGUEIREDO, A. (2002): Redes de educação: A surpreendente riqueza de um conceito in redes de aprendizagem/- redes de conhecimento. Lisboa, Ministério da Educação; 39-55.

GENTO, S. y CASTILLO, S. (1995): «Modelos de evaluación de programas educativos», en MEDINA, A. y VILLAR, L.M. (Coords.) (1995): Evaluación de programas educativos, centros y profesorado. Madrid, Universitas; 25-72.

GENTO, S. y GLASS (Eds.) (1977): Evaluation studies review Amud. Beverly Hills, California Sage; 140-157.

HACKOS, J. y REDISH, J. (1998): User and task analysis for interface design. New York, Wiley.

MEDINA, A. (2003): Evaluación de programas socioculturales. Madrid (en prensa).

MEDINA, A. (2003): Evaluación de programas tecnológicos. Madrid (en prensa).

MEDINA, A. y VILLAR, L.M. (1995) (Coords.): Evaluación de programas educativos, centros y profesorado. Madrid, Universitas; 73-146.

NIELSEN, J. (1993): Usability engineering. San Francisco, Morgan Kaufmann.

NIELSEN, J. (2000): Projetando websites: Designing web usability. Rio de Janeiro, Campus

NORMAN, D. (1993): Things that make us smart: defending human attributes in the age of the machine. Massachusetts, Perseus Books.

PÉREZ JUSTE, R. (1995): «Evaluación de programas educativos y metodología para la evaluación de programas educativos», en

STAKE, R.E. (1967): «The countenance of education evaluation», en Teacher College Record, 68; 523-544.

TEJEDOR, J. (1990): «Perspectiva metodológica del diagnóstico y evaluación de necesidades en el ámbito educativo», en Revista de Investigación Educativa, 8.

TESSMER, M. (1996): «Formative evaluation», en PIET, A.M.; KOMMERS, S.; GRABINGER, J. y DUNLAP, C. (Eds.): Hypermedia learning environments. New Jersey, Lawrence Erlbaum Associates Publishers;187-207

TUCKMAN, B. (2000): Manual de investigação em educação. Lisboa, Fundação Calouste Gulbenkian.

WEISS, C. (1975): Investigación evaluativa. Méjico, Trillas.

WITTROCK, M. (1989): La investigación en la enseñanza. Madrid, Paidós/MEC.

WORTHEN, B.R. (1987): En HUSEN, T. y POSTLETH, T. (Eds): Enciclopedia Internacional de la Educación. Barcelona, MEC/Vicens Vives, Vl-V ; 2.523-2.530.