El simposio de ética del MIT exploró el impacto de la inteligencia artificial en la sociedad, abordando temas como la alineación de valores humanos y el uso ético de herramientas AI en educación.
El 30 de abril, el MIT Schwarzman College of Computing llevó a cabo un simposio de investigación centrado en las Responsabilidades Sociales y Éticas de la Computación (SERC). Este evento reunió a expertos para analizar cómo la inteligencia artificial (IA) está transformando el mundo y sus implicaciones sociales.
Durante el simposio, se presentaron investigaciones por parte de los beneficiarios de las últimas subvenciones del SERC, abordando temas como la previsión de la contaminación del aire y el despliegue responsable de visión computacional. Además, se realizaron paneles sobre la alineación de IA y su aplicación en la educación, junto con una conferencia magistral a cargo del Dr. Jon Kleinberg, profesor en Cornell University. El evento también incluyó una sesión de carteles donde investigadores estudiantes mostraron sus proyectos, desarrollados durante su participación en el programa SERC Scholars.
Brian Hedden, co-decano asociado del SERC y profesor de filosofía, destacó: “Hay una gran cantidad de investigación impresionante en MIT sobre cómo la IA y la computación pueden ser fuerzas para el bien que beneficien a la humanidad. Fue inspirador ver tanto interés comunitario en todo este trabajo innovador.” Por su parte, Nikos Trichakis, también co-decano asociado del SERC, enfatizó que a medida que la IA se integra cada vez más en todos los aspectos de la sociedad, es fundamental que la reflexión ética avance junto con el progreso técnico.
Uno de los principales desafíos discutidos fue cómo incorporar “valores humanos” dentro del marco ético que rige tecnologías tan poderosas como la IA. Dylan Hadfield-Menell, profesor asociado de EECS, planteó interrogantes sobre quién decide qué valores deben incluirse y cómo evitar distorsiones al traducir estos valores al ámbito tecnológico.
Iason Gabriel, filósofo e investigador en Google DeepMind, utilizó el ejemplo de un juez para ilustrar su punto: “Se espera que un juez tenga buen carácter pero que interprete las reglas adecuadamente. La IA no debe ser vista como perfecta; debe hacer lo que le indicamos mientras interpreta según nuestros valores morales.” Bailey Flanigan, profesora asistente de ciencias políticas, añadió que uno de los problemas más críticos es determinar quién tiene derecho a gobernar diferentes tipos de sistemas AI.
Bernado Zacka, profesor asociado también presente en el panel, subrayó la urgencia de entender los sistemas existentes que están siendo reemplazados por nuevas tecnologías. A medida que aumenta la presión por implementar soluciones basadas en IA, muchos sienten que se está construyendo un avión mientras se vuela. Sin embargo, los panelistas mostraron optimismo respecto al futuro de la alineación con valores humanos.
A medida que los estudiantes utilizan cada vez más herramientas basadas en IA, surgen preguntas sobre cómo integrar éticamente estas tecnologías sin comprometer la precisión académica. En un panel dedicado a este tema, facultativos del MIT y Marta McAlister discutieron cómo ya se emplea IA en las aulas y las formas en que puede apoyar el aprendizaje manteniendo alineados los objetivos curriculares.
Los profesores Eric Klopfer y Samuel Madden abordaron un dilema central: si la IA se utiliza para descargar trabajo o si realmente ayuda a construir conceptos educativos. Madden describió el proceso crítico del aprendizaje mediante ensayos y errores: “Hoy día, cuando los estudiantes enfrentan dificultades, su primera reacción es recurrir a AI.” Esto plantea un desafío para los instructores: ¿cómo mantener ese proceso cognitivo necesario?
Klopfer sugirió revisar el currículo completo para encontrar un equilibrio adecuado entre contenido esencial y desafío educativo. Justin Reich moderó esta discusión resaltando que aunque los adolescentes son conscientes del uso problemático de AI, esto no detiene su adopción. Involucrar a los estudiantes en discusiones sobre cómo utilizar estas herramientas podría capacitarlos mejor para tomar decisiones informadas.
Pataranutaporn agregó que “la IA no es solo una cosa”, indicando que debería diseñarse para fomentar creatividad y pensamiento crítico. La forma en que medimos el aprendizaje debe ir más allá simplemente obtener respuestas correctas; debemos considerar qué significa realmente aprender hoy.
En su conferencia titulada “Modelos del mundo AI y nuestros modelos”, Kleinberg analizó situaciones donde los sistemas AI han fallado debido a desajustes entre sus modelos del mundo y los humanos. Usó ejemplos como ajedrez para ilustrar cómo motores modernos pueden competir a niveles superiores pero resultan incomprensibles para sus compañeros humanos durante partidas conjuntas.
Kleinberg comparó esto con "El Señor de los Anillos", donde Gandalf confía una misión crítica a un grupo diverso sin su guía directa. Esta analogía refleja las diferencias fundamentales entre cómo AI comprende el mundo —mediante simulaciones predictivas— frente al conocimiento innato humano basado en experiencias vividas. La pregunta persiste: si ambos enfoques llevan al mismo resultado final (como un jaque mate), ¿importa realmente cuál es mejor?
Los desafíos incluyen cuestiones éticas sobre cómo instilar "valores humanos" en tecnologías poderosas y en rápida evolución. Esto plantea preguntas sobre quién decide qué valores se incluyen en un marco ético y cómo se pueden traducir estos valores de manera efectiva de los usuarios a las máquinas.
Es esencial encontrar un equilibrio entre el uso de herramientas de IA para facilitar el aprendizaje y mantener la precisión académica. Los educadores deben asegurarse de que la IA no se utilice simplemente para descargar trabajo, sino que ayude a los estudiantes a desarrollar habilidades críticas a través del desafío cognitivo.
El uso excesivo de IA puede llevar a que los estudiantes eviten el proceso necesario de lucha cognitiva, lo que podría perjudicar su capacidad para desarrollar pensamiento crítico. Es importante que los educadores diseñen currículos que mantengan un nivel adecuado de desafío para fomentar estas habilidades.