Por favor, use este identificador para citar o enlazar este ítem:
https://www.innovacioneducativa.unam.mx:8443/jspui/handle/123456789/7666Registro completo de metadatos
| Campo DC | Valor | Lengua/Idioma |
|---|---|---|
| dc.coverage.spatial | México | - |
| dc.coverage.temporal | 2020-2021 | - |
| dc.date.accessioned | 2023-12-05T00:41:29Z | - |
| dc.date.available | 2023-12-05T00:41:29Z | - |
| dc.date.issued | 2020 | - |
| dc.identifier.uri | https://www.innovacioneducativa.unam.mx:8443/jspui/handle/123456789/7666 | - |
| dc.description.abstract | La incorporación de algoritmos de inteligencia artificial (IA) en la vida diaria se ha visto como promesa de una mejor calidad de vida para la sociedad. Sin embargo, de la mano de avances sorprendentes en el área ha llegado preocupación en torno a los efectos no previstos que la automatización de procesos y de decisiones podría tener. Con frecuencia se exhiben casos como los de bots racistas, sistemas de reconocimiento facial que fallan en minorías étnicas, prácticas comerciales poco éticas en redes sociales o escándalos sobre manipulación de voto como el de Cambridge Analytica. El tema se ha vuelto tan relevante que ha generado la creación de institutos como el AI Now y de lineas de trabajo orientadas a la justicia algorítmica (v.gr. al interior del MIT Media Lab o de prácticamente todas las grandes empresas de software). Se ha propuesto incluso un juramento hipocrático para la comunidad de IA. Aunque queda claro que el desarrollo de IA debería estar acompañado de ejercicios prospectivos desde diferentes disciplinas para garantizar el bienestar de la sociedad y el respeto a los derechos humanos, existe el obstáculo no trivial de establecer puentes entre las personas que desarrollan algoritmos y aquellos que tienen una formación en humanidades. La licenciatura en Tecnologías para la Información en Ciencias está fuertemente orientada al uso de IA, pero su plan de estudios presenta serias deficiencias en cuanto a las herramientas conceptuales del área de humanidades que se brinda a los estudiantes. Nuestro proyecto propone (1) la reorientación del contenido de una de las materias de la LTIC para abordar discusiones relevantes actuales en torno al desarrollo de IA, (2) el desarrollo de instrumentos didácticos que permitan vincular humanidades y ciencias computacionales en torno a actividades de investigación y (3) la creación de un grupo de trabajo interdisciplinario enfocado en el impacto social de la IA. | - |
| dc.description.sponsorship | Dirección General de Asuntos del Personal Académico (DGAPA) | - |
| dc.language | es | - |
| dc.rights | Todos los derechos son propiedad de la Universidad Nacional Autónoma de México (UNAM) | - |
| dc.title | Estrategia de enseñanza con énfasis en las humanidades para el análisis crítico de algoritmos de inteligencia artificial | - |
| dc.type | Proyecto PAPIME | - |
| dcterms.bibliographicCitation | FLORES GARRIDO, MARISOL. (2020). Estrategia de enseñanza con énfasis en las humanidades para el análisis crítico de algoritmos de inteligencia artificial. (Proyecto PAPIME). Dirección General de Asuntos del Personal Académico (DGAPA). UNAM. Mèxico | - |
| dcterms.educationLevel | nivel superior | - |
| dcterms.provenance | Escuela Nacional de Estudios Superiores Unidad Morelia (ENES Morelia) | - |
| dc.identifier.papime | PE109820 | - |
| dc.subject.keywords | ética y tecnología | - |
| dc.subject.keywords | humanidades digitales | - |
| dc.subject.keywords | Inteligencia artificial | - |
| dc.subject.keywords | justicia algorítmica | - |
| dc.subject.keywords | sesgo algorítmico | - |
| dc.contributor.responsible | FLORES GARRIDO, MARISOL | - |
| dc.description.objective | Objetivo general: Reorientar el abordaje que se hace de las humanidades en la Licenciatura en Tecnologías para la Información en Ciencias (LTIC), de manera que nociones generales del campo de filosofía de la ciencia y la tecnología puedan aterrizarse al área específica de los algoritmos y que, de esta manera, los estudiantes tengan los elementos necesarios para participar con una visión crítica en la discusión global en torno al impacto de la inteligencia artificial. Objetivos específicos: "1. Crear un espacio de diálogo interdisciplinario en torno al impacto social del desarrollo de inteligencia artificial (IA) para revisar el estado del arte, los principales problemas detectados y las corrientes de pensamiento en el tema. 2. A partir de la discusión anterior, reorientar el contenido de la materia de LTIC Ciencia, tecnología y sociedad en forma tal que los estudiantes puedan establecer la correspondencia entre temas generales de disciplinas fuera de las ciencias computacionales, como filosofía de la ciencia y la tecnología, derecho, antropología, sociología e historia, y casos concretos registrados en la literatura y los medios de comunicación sobre áreas de riesgo en IA, especialmente sesgo algorítmico. El resultado de esta labor quedará registrado en una propuesta concreta elaborada en torno al temario de la materia, y en un reporte detallado que, hasta donde sabemos, sería el primero de este tipo en México. 3. Crear recursos electrónicos de trabajo, en forma de laboratorios, que permitan conectar el material teórico con tareas activas de corte investigativo en torno a algoritmos. 4. Generar material de divulgación en forma de artículos y presentaciones en eventos académicos (al menos tres productos), a fin de dar a conocer hallazgos y contribuir a la formación de un grupo de estudio en México en torno a este tema fundamental para el desarrollo de IA." | - |
| dc.description.strategies | 1. Crear un espacio de diálogo interdisciplinario en torno al impacto social del desarrollo de inteligencia artificial (IA). 1.1 Establecer un seminario con participación de académicos de distintas disciplinas en humanidades y ciencias computacionales, que se reuna de manera periódica. La organización de contenidos inicial se propondrá con base en la revisión de documentos que han tenido impacto a nivel global en la discusión, por ejemplo, aquellos mencionados en la sección "Justificación académica" pero también reportes generados como [1-4]. 1.2 El seminario estará abierto para estudiantes en general, pero se promoverá especialmente la participación de aquellos en semestres avanzados de la LTIC porque (1) están en posición de comprender mejor la problemática, aportar a la discusión y entender cosas desde las herramientas que han adquirido a través de su formación, y (2) están cerca de egresar y es más apremiante la necesidad de complementar lo que han aprendido. Así, el seminario servirá también para subsanar una deficiencia del plan de estudios. 1.3 Además de la propuesta que se describe en el siguiente punto, se espera que el seminario resulte en nuevas líneas de colaboración y en reflexiones originales en torno al caso específico de la IA en México. Estos resultados conformarán un reporte y se presentarán en foros académicos pertinentes. 2. Reorientar el contenido de la materia de la LTIC 0060: Ciencia, tecnología y sociedad, en forma tal que puedan establecerse correspondencia entre temas generales de disciplinas fuera de las ciencias computacionales, como filosofía de la ciencia y la tecnología, derecho, antropología, sociología e historia, y casos concretos registrados en la literatura y los medios de comunicación sobre áreas de riesgo en IA, especialmente sesgo algorítmico. 2.1 La propuesta: (a) será planteado desde un diálogo interdisciplinario entre los académicos de la LTIC y académicos del área de humanidades (b) considerará la dimensión política, cultural y social de los datos y de los algoritmos (c) se diseñará de acuerdo al perfil de especialistas en ciencia de datos (d) será bifocal en el sentido de brindar elementos para entender la discusión a nivel global, pero también para problematizar el entorno local en una forma que permita analizar lo que se ha denominado "colonialismo algorítmico" [5] (e) no será un temario nuevo, sino una adaptación concreta de la propuesta original al perfil de la licenciatura. 2.2 La propuesta se presentará ante el comité académico de la LTIC, a fin de recibir retroalimentación y presentar una versión con cambios incoporados al cuerpo académico de la licenciatura. 3. Crear recursos electrónicos de trabajo, en forma de laboratorios, que permitan conectar el material teórico con tareas activas de corte investigativo en torno a algoritmos. Los algoritmos pueden entenderse como sistemas sociotécnicos complejos sujetos a error humano, más allá de cuestiones técnicas. Autores como Rahwan y Seaver proponen que el estudio de algoritmos podría extenderse mediante una metodología que incorpore elementos de la antropología [6,7]. Desde otro ángulo, existe también una corriente orientada al trabajo periodístico relacionado con algoritmos y datos. Proponemos: 3.1 Revisar el estado del arte en las corrientes antes mencionadas. 3.2 Reproducir investigaciones que han sido relevantes en el tema de algoritmos, como la de ProPublica en el sistema de tarifas de Amazon, y en el tema de datos, como algunas descritas por Set Stephens [7,8]. 3.3 Con base en el trabajo anterior, proponer una metodología para el desarrollo de investigaciones en torno a algoritmos y datos. 3.4 Crear hojas de trabajo electrónicas, usando Jupyter Notebooks o herramientas similares, que incorporen la metodología propuesta en el inciso anterior. Estas hojas incluirán la comunicación de resultados mediante el uso de bibliotecas que permiten una exploración dinámica de datos, como Bokeh y Dash, de Python. Consideramos que estas hojas de trabajo permitirán conectar (1) un proceso investigativo que requiere hablidades en programación y (2) nociones adquiridas en el aula que generen las preguntas mismas de la investigación. De esta manera se conseguirá desarrollar un aprendizaje situado que permita una interacción directa y estimule a los estudiantes en la fundamentación, sistematización y evaluación de algoritmos. 3.5 El material didáctico, apropiadamente documentado, se pondrá a disposición de la comunidad a través de la página de la LTIC y de la RUA. 4. Generar material de divulgación en forma de artículos y presentaciones en eventos académicos (3+) para dar a conocer hallazgos y contribuir a la formación de un grupo de estudio en México en torno a este tema fundamental para el desarrollo de IA. Se considera presentar resultados en foros relevantes para la comunidad de IA en México, como el MICAI. | - |
| dc.description.goals | Todas las metas de este proyecto se plantean para un año, es decir, consideramos que al término del año deberán contarse con: 1. Un grupo de trabajo interdisciplinario establecido a través del seminario propuesto en este proyecto. 2. El reporte de hallazgos y posibles lineas de trabajo colaborativo generados a través del seminario. 3. La propuesta de reorientación de la materia con clave 0060 en la LTIC, de manera que el enfoque particular sea el estudio de algoritmos y desarrollo de IA. Esta propuesta contará con el visto bueno del comité académico de la Licenciatura en Tecnologías para la Información en Ciencias. 4. Hojas de trabajo electrónicas que incorporen la metodología para trabajos de investigación cuyo objeto de estudio son los datos y los algoritmos. 5. Al menos tres trabajos de divulgación en forma de artículos, ponencias o participación en eventos académicos nacionales de la comunidad de inteligencia artificial. | - |
| dc.description.goalsAchieved | Consideramos que todas las metas se alcanzaron. 1. Se creó un grupo de trabajo interdisciplinario para reflexionar en torno al análisis crítico de IA, particularmente en el contexto de aprendizaje automático y de la importancia que los datos tienen en este paradigma. El grupo se organizó tomando como eje el seminario del proyecto. Se contó con la participación de académicos con distinto perfil, aunque en el caso de los estudiantes predominó la participación de la Licenciatura en Tecnologías para la Información en Ciencias. Las notas que se entregan, generadas a partir del trabajo en el seminario, dan cuenta de la reflexión que se tuvo en el grupo, mayormente centrada en el tema de epistemología de los datos. 2. Se elaboraron notas a partir del trabajo realizado en el seminario. Esas notas sintetizan prácticamente todas las metas de este proyecto, y describen tanto los hallazgos y proyectos trabajados en el año, como recursos didácticos que consideramos una aportación. 3. Se elaboró la propuesta de una materia enfocada en la filosofía del big data, dirigida específicamente a estudiantes con orientación a ciencias de la computación. La materia se propone con formato de un seminario e incluye casos de estudio en Python. 4. Se desarrollaron dos hojas de trabajo en Jupyter, utilizando Python. Ambas representan casos de estudio, con datos reales, que se sugieren como parte del temario propuesto para la del punto anterior. En los dos casos, fueron estudiantes (auxiliados por profesores participantes) quienes estuvieron a cargo de desarrollar el material. 5. Los estudiantes trabajaron en un total de seis mini-proyectos - todos reportados en las notas del seminario; los resultados se presentaron en un coloquio organizado como parte de este papime al interior de la ENES-Morelia. Adicionalmente, se incluyen como productos de este proyecto: - Una hoja de trabajo enfocada en el procesamiento del lenguaje natural en relación con la localidad de los datos. - Dos conjuntos de datos creados por participantes del proyecto como parte de la reflexión sobre la IA en México - Ideas, ejemplos específicos y guías metodológicas que se identificaron, mediante el seminario, en la literatura. Consideramos que todo esto puede servir de apoyo para docentes buscando abordar el tema del análisis crítico de algoritmos de aprendizaje automático. Este material está contenido en las notas del seminario. | - |
| dc.description.area | 1. Área de las Ciencias Físico Matemáticas y de las Ingenierías | - |
| dc.description.selfAssessment | Consideramos que el proyecto fue exitoso. Este papime permitió la creación de grupos y líneas de trabajo que trascenderán las metas que se contemplaron. Por ejemplo, (1) tres de los académicos que participamos en el proyecto estaremos en el Festival de las Matemáticas 2021 hablando específicamente del tema del impacto de las métricas en la sociedad - abordando puntos discutidos en nuestro seminario-, y tenemos pensado continuar con sesiones para discutir ejes analíticos para el manejo de datos; (2) dos de los becarios de este proyecto han decidido iniciar un trabajo de tesis en temas que iniciaron en el papime. Paola González quiere trabajar el tema del sexismo en representaciones vectoriales específicamente en español, incorporando elementos de epistemologías feministas y justicia de datos que se trataron en nuestro seminario. Javier Navarro quiere continuar con el desarrollo de un modelo de ML que permita identificar factores de riesgo delictivo en ciudades mexicanas; (3) el temario que surgió como producto del proyecto se presentará ante el comité académico de la licenciatura en Tecnologías para la Información en Ciencias, buscando que pueda iniciarse el proceso para incorporarlo como una materia optativa en el plan de estudios de la licenciatura; (4) las notas que se presentan en el reporte, aunque aparecen de manera esquemática, constituyen un punto de partida para reflexiones que consideramos importantes (el contrato social de la ciencia y la tecnología en México, el impacto de datos locales en temas de salud o culturales, el establecimiento de prácticas estandarizadas que permitan a los practicantes de ciencia de datos incorporar una reflexión sobre los datos y mitigar riesgos en el impacto social de la tecnología) y que seguramente continuaremos trabajando dentro y fuera del aula. Además, se consiguió un nivel importante de participación entre los estudiantes y ha sido absolutamente satisfactorio escuchar la forma en que incorporan herramientas analíticas discutidas en el seminario a sus reflexiones en torno a casos de estudio concretos. A pesar de que hubo algunos retrasos en el calendario del seminario, el espacio funcionó de manera efectiva para crear una discusión sobre los datos en la producción de conocimiento, desplazando incluso la atención al tema de la localidad de los datos (que no se tenía previsto) y abriendo nuevas preguntas. Poniendo todo en una balanza - y a pesar de que 2020 fue un año inusualmente complicado - consideramos que el proyecto fue exitoso. | - |
| dcterms.educationLevel.SEP | Licenciatura | - |
| dcterms.callforproject | 2020 | - |
| dc.subject.DGAPA | Ciencias de la computación | - |
| dc.description.products | Curso.Reorientación de la materia Ciencia, tecnología y sociedad de la LTIC: Se tiene una propuesta para el temario de una materia enfocada en la epistemología del Big Data. La propuesta está específicamente diseñada para estudiantes de ciencias de la computación (o áreas afines), así que incluye una discusión sobre la naturaleza de la ciencia y de los datos, además de casos de estudio que pueden trabajarse en Python y visibilizan - a partir de situaciones concretas y datos reales - los problemas abordados de manera más abstracta en las lecturas asignadas. Este documento se ha incluído en el capítulo 3 del reporte sobre el seminario. | - |
| dc.description.products | Software.Laboratorios electrónicos para la investigación en torno a datos y algoritmos: Se desarrollaron dos hojas de trabajo en Jupyter, utilizando Python. La primera aborda el tema de sexismo en representaciones vectoriales de palabras, generadas mediante redes neuronales. La segunda se centra en el caso de un algoritmo (COMPAS) utilizado por el sistema de justicia estadounidense para predecir la probabilidad de reincidencia en personas detenidas por algún delito. Asi, cada hoja representa un caso de estudio sobre los valores culturales y políticos que pueden sesgar los resultados de un algoritmo en perjuicio de grupos históricamente vulnerables. De este modo se destaca la importancia de reflexionar sobre los datos que se usan como base para el desarrollo de algoritmos de aprendizaje automático, y se fomenta la discusión en torno a conceptos revisados en el temario propuesto como parte de este papime. Adicionalmente, durante el desarrollo del proyecto se generaron dos conjuntos de datos sobre el trabajo de IA que se lleva a cabo en México. Específicamente: se analizaron publicaciones de investigadores mexicanos en las áreas de procesamiento de lenguaje natural e investigación biomédica de los últimos 5 años; en cada caso se examinaron los datos utilizados para la investigación. A partir de estos datos se reflexionó sobre los datos y su localidad (tema central en este proyecto). Este material se incluye en los documentos probaborios y se describe a detalle en los capítulos 3 y 6 del reporte sobre el seminario. | - |
| dc.description.products | Seminario.Seminario del proyecto: El seminario se llevó a cabo tal como se había planeado, aunque sufrimos un retraso en las fechas. El inicio de las actividades a distancia marcó un tiempo muy confuso para todos y, aunque como grupo estuvimos leyendo durante esos meses, fue hasta el arranque del semestre escolar 2021-I que iniciamos las sesiones con invitados. De todas formas se tuvieron todas las sesiones (siete, descritas con más detalle en el reporte del seminario), se realizaron las lecturas (muchas de ellas incluídas en el temarios propuesto), se llevó a cabo el trabajo en proyectos con grupos pequeños de estudiantes (descritos en el reporte y expuestos en el Coloquio). Todo se completó. NOTA: Este seminario corresponde al ""Seminario de estudio en torno al impacto social de la inteligencia artificial"" planteado originalmente (lo borré por accidente al llenar este reporte) | - |
| dc.description.products | Recopilación.Reporte del seminario interdisciplinario en torno a la IA: Se elaboró un reporte en el que hemos buscado documenar el trabajo que se llevó a cabo al interior del seminario, sintentizando lo que consideramos principales hallazgos y líneas promisorias para trabajo futuro. El reporte se organiza en dos secciones principales. La primera reflexiona sobre la naturaleza de los datos y el impacto que deben tener como parte integral del modelo desde la fase de planeación. La segunda se centra específicamente en el tema de la localidad de los datos. Aunque en el reporte las ideas se presentan de manera esquemática, consideramos que cumple con (1) documentar el trabajo que se llevó a cabo en este papime, y (2) facilitar material a otros docentes interesados en incorporar una discusión alrededor de la epistemología de ciencia de datos en currículos relacionados con IA. | - |
| dc.description.products | Coloquio.I Coloquio de estudiantes Pensar críticamente el aprendizaje automático: "Este coloquio se llevó a cabo al final del semestre escolar 2021-I, contó con la participación de estudiantes de la Licenciatura en Tecnologías para la Información en Ciencias y peritió que los estudiantes que participaron en el proyecto pudieran hablar del trabajo que llevaron a cabo como parte del papime. Las exposiciones abordaron principalmente el tema de la localidad de los datos. Se adjunta el póster del evento." | - |
| dc.description.outcomes | Podemos mencionar que: - Todos los participantes del proyecto ganamos un entendimiento más profundo sobre el aspecto social de los algoritmos, la naturaleza conceptual de los datos y la riqueza que herramientas de análisis desde las humanidades pueden traer al desarrollo del aprendizaje automático. - Se produjo una experiencia de aprendizaje grupal, en un ambiente colaborativo e interdisciplinario - Se diseñaron e implementaron mini-proyectos a partir del trabajo del seminario. En cada uno, los estudiantes tuvieron oportunidad de aplicar lo aprendido e involucrarse en trabajo de investigación original, demostrando la capacidad de identificar preguntas relevantes y la creatividad para proponer soluciones a partir de su experiencia encarnada. - La participación de los estudiantes - que incluyó la lectura de textos, asistencia al seminario, desarrollo de proyectos, presentación de trabajos en el coloquio - contribuyó en ellos al desarrollo de habilidades organizacionales, comunicativas y de toma de decisiones que consideramos muy relevantes para el perfil que se busca crear en la licenciatura. - Se obtuvieron productos concretos, enlistados anterioremente, que funcionan como un puente entre disciplinas, mostrando una amalgama de herramientas conceptuales y competencias prácticas que permite abordar el análisis de algoritmos desde un punto de vista que va más allá de lo técnico (v.gr. trabajos desarrollados por estudiantes, descritos en caps 6-8 del reporte de seminario). El material generado permite que los ejercicios puedan reproducirse en otras licenciaturas. - El giro que tomó la discusión durante el desarrollo del proyecto, hacia la localidad de los datos, permitió que los profesores reflexionáramos en lo importante del tema para propiciar un conocimiento situado y para desarrollar experiencias didácticas cercanas a la realidad de los estudiantes, que legitimen su participación al proponer estrategias para resolver problemas (v.gr. cap 7 del reporte) | - |
| Aparece en las colecciones: | 1. Área de las Ciencias Físico Matemáticas y de las Ingenierías | |
Ficheros en este ítem:
No hay ficheros asociados a este ítem.
Los ítems de DSpace están protegidos por copyright, con todos los derechos reservados, a menos que se indique lo contrario.
