Un nuevo estudio de Google DeepMind Sin embargo, es posible que los chatbots no comprendan verdaderamente la moralidad, incluso si sus respuestas parecen éticas.
Las pruebas actuales de ética de la IA se centran en el "desempeño ético", evaluando si un modelo produce respuestas aceptables. Sin embargo, los investigadores de DeepMind argumentan que este enfoque pasa por alto la pregunta más fundamental: ¿Puede la IA pensar éticamente o simplemente imita palabras correctas?
¿Puede la inteligencia artificial comprender realmente la ética?
في Un artículo de investigación publicado en NatureEl equipo desarrolla una hoja de ruta para evaluar la competencia ética: la capacidad de producir resultados éticamente apropiados basándose en consideraciones éticamente relevantes. Como indica el resumen, evaluar esta competencia es crucial para predecir el comportamiento futuro del modelo, generar la confianza pública adecuada y justificar la atribución ética.
Los proyectos actuales de Google en el campo de la inteligencia artificial incluyen Modelos lingüísticos de Géminis, و Imagen de Géminis Para crear y editar imágenes, y liria Para crear música, Audio Géminis Para audio en tiempo real y Veo para la creación de vídeos.
Los investigadores destacan tres desafíos principales:
- Problema de copia: Los modelos LLM pueden imitar el razonamiento ético sin una comprensión real.
- Multidimensionalidad ética: Las decisiones del mundo real implican consideraciones complejas y sensibles al contexto que van más allá de lo simplemente correcto o incorrecto.
- Pluralismo ético: Los estándares éticos varían según las culturas y los campos, lo que requiere que la inteligencia artificial tenga en cuenta múltiples perspectivas válidas.
Para abordar estas deficiencias, DeepMind sugiere probar a los adversarios en escenarios inusuales o de alto riesgo. También propone evaluar si la IA puede alternar entre diferentes marcos éticos y responder de forma consistente a cambios sutiles en el contexto.
El equipo enfatiza que “el progreso es posible” a pesar de las limitaciones actuales del modelo, y que una evaluación cuidadosa es esencial a medida que la inteligencia artificial asume roles en el asesoramiento médico, el tratamiento y otras áreas con consecuencias humanas reales.
El estudio indica que «actualmente, cuando se le pide a la IA orientación ética, esta predice palabras, no razonamiento ético». «Nuestra hoja de ruta apunta a un futuro en el que la IA podrá evaluarse para una comprensión ética genuina».
Chatbots y riesgos éticos
Los chatbots impulsados por IA están demostrando cada vez más su capacidad para influir en el comportamiento humano, para bien o para mal. El New York Times recientemente Un informe detalla decenas de casos en los que los pacientes experimentaron psicosis, delirios o comportamientos dañinos tras interactuar con inteligencia artificial. Los psiquiatras describieron a los chatbots como promotores de creencias inusuales, que profundizan el aislamiento y, en algunos casos, contribuyen a pensamientos suicidas o incluso a la violencia.
Si bien estas herramientas pueden ayudar a las personas a practicar técnicas terapéuticas o brindar apoyo, el mismo informe del Times destaca los riesgos éticos del poder persuasivo de la IA. Los expertos advierten que, para los usuarios vulnerables, los chatbots pueden reforzar patrones dañinos, lo que plantea preguntas complejas sobre la responsabilidad, el diseño y la supervisión en estos sistemas cada vez más humanos.
El artículo menciona directamente a Google debido a los efectos psicológicos de su chatbot Gemini. Un portavoz de la compañía afirmó que Gemini dirige a los usuarios a orientación médica profesional para consultas de salud. Sin embargo, el Dr. Monmon de Choudhury enfatizó el desafío más amplio, afirmando: «No creo que ninguna de estas compañías haya descubierto qué hacer».
