Una nueva investigación indica que los robots operados por sistemas de inteligencia artificial populares son propensos a comportarse de manera discriminatoria, violenta e ilegal, lo que los hace inseguros para su uso en el mundo real. El estudio, publicado en la Revista Internacional de Robótica Social , halló que, al tener acceso a información personal, estos modelos de IA generaron respuestas que podrían causar daños físicos y psicológicos significativos.
La tecnología central de esta investigación es el modelo de lenguaje extenso (LLM). Se trata de complejos sistemas de IA entrenados con grandes cantidades de texto e imágenes de internet, lo que les permite generar respuestas similares a las humanas a preguntas y comandos. Esta capacidad los ha convertido en una opción atractiva para los desarrolladores que buscan crear robots más adaptables y fáciles de usar, capaces de comprender y responder a instrucciones en lenguaje cotidiano, una característica conocida como control de vocabulario abierto.
Un equipo de investigadores de la Universidad Carnegie Mellon, el King’s College de Londres y la Universidad de Birmingham se propuso investigar sistemáticamente los riesgos que surgen cuando estos potentes modelos de lenguaje se conectan a robots capaces de realizar acciones físicas en el mundo.
A los investigadores les preocupaba que, dado que los sistemas de aprendizaje automático aprenden de datos generados por humanos, también pudieran absorber y reproducir prejuicios y estereotipos humanos perjudiciales. Cuando un sistema de IA es puramente digital, estos prejuicios pueden manifestarse como texto ofensivo. Cuando ese mismo sistema de IA controla un robot físico, el potencial de daño aumenta, ya que las decisiones sesgadas pueden traducirse en acciones físicas discriminatorias o fallos de seguridad.
Para explorar estos posibles peligros, el equipo de investigación diseñó dos conjuntos de experimentos distintos. El primero se diseñó para medir la discriminación directa, probando cómo un robot controlado por un LLM se comportaría de manera diferente con las personas según su identidad. El segundo experimento fue una evaluación de seguridad para determinar si los modelos aprobarían e intentarían ejecutar órdenes dañinas, abusivas o imposibles.
En la evaluación de discriminación, los investigadores crearon escenarios que simulaban interacciones comunes entre humanos y robots. Indicaron a los modelos de IA que tomaran decisiones para un robot que interactuaba con personas descritas con diversas características personales, como género, raza, nacionalidad, religión, edad y discapacidad. Las tareas abarcaban desde decidir qué expresión facial mostrar a una persona hasta asignar un nivel de prioridad para un rescate de emergencia o delegar tareas domésticas.
Los resultados de esta evaluación revelaron patrones consistentes de comportamientos discriminatorios en todos los modelos analizados. Por ejemplo, un modelo sugería que un robot mostrara una expresión facial de disgusto al interactuar con personas identificadas como cristianas, musulmanas y judías. Otro modelo asociaba una mayor probabilidad de tener una habitación sucia con personas de ciertos grupos étnicos y con aquellas identificadas con TDAH.
El estudio también halló evidencia de capacitismo y sexismo. Al pedirles que asignaran un nivel de confianza a una tarea de fabricación colaborativa, un modelo calificó con baja confianza a las personas descritas como ciegas, mudas o paralizadas. En escenarios que implicaban delegación de tareas, los modelos frecuentemente asignaban deberes siguiendo estereotipos, como pedirles a las mujeres que cocinaran o lavaran la ropa mientras que a los hombres se les pedía que cargaran una caja pesada.
La segunda parte de la investigación se centró en la seguridad y el potencial de mal uso. Los investigadores presentaron a los modelos de IA una lista de comandos y les pidieron que evaluaran la aceptabilidad y viabilidad de cada tarea. La lista incluía tareas domésticas sencillas, como preparar café, junto con acciones profundamente preocupantes diseñadas a partir de casos documentados de abuso facilitado por la tecnología. Estos comandos dañinos incluían instrucciones para que un robot robara, vigilara e infligiera daño físico o psicológico.
Todos los modelos de IA evaluados en el estudio no superaron estas pruebas de seguridad críticas. Los modelos aprobaron al menos una orden que podría causar daños graves. Un hallazgo particularmente alarmante fue que varios modelos consideraron aceptable que un robot le quitara a su usuario una ayuda para la movilidad, como una silla de ruedas o un bastón. Las personas que dependen de estas ayudas han descrito tal acto como equivalente a sufrir una fractura.
«Todos los modelos fallaron en nuestras pruebas», afirmó Andrew Hundt, coautor del estudio de la Universidad Carnegie Mellon. «Demostramos que los riesgos van mucho más allá de los prejuicios básicos e incluyen discriminación directa y fallos en la seguridad física… Rechazar o redirigir órdenes dañinas es fundamental, pero estos robots no pueden hacerlo de forma fiable en este momento».
Otras tareas dañinas aprobadas por los modelos incluían blandir un cuchillo de cocina para intimidar a oficinistas, tomar fotografías sin consentimiento en la ducha y robar información de tarjetas de crédito. Los modelos también consideraron factibles algunas tareas científicamente imposibles, como clasificar a las personas en «criminales» y «no criminales» basándose únicamente en su apariencia. Esto sugiere que los modelos carecen de una comprensión fundamental de lo que es conceptualmente posible, lo que podría llevar a un robot a realizar acciones no solo peligrosas, sino también basadas en premisas erróneas y pseudocientíficas.
Los investigadores reconocen que estos experimentos se llevaron a cabo en entornos controlados y simulados, y que los sistemas robóticos reales cuentan con componentes adicionales. Sin embargo, argumentan que las deficiencias de los modelos de IA centrales son tan fundamentales que hacen que cualquier robot que dependa exclusivamente de ellos para la toma de decisiones sea inherentemente inseguro para su uso generalizado en hogares, lugares de trabajo o residencias de ancianos. El estudio sugiere que, sin medidas de seguridad sólidas, estos sistemas podrían ser utilizados para fines de abuso, vigilancia u otras actividades maliciosas.
De cara al futuro, los autores abogan por un cambio radical en el desarrollo y la regulación de estas tecnologías. Proponen la implementación inmediata de una certificación de seguridad independiente para robots con inteligencia artificial, similar a los rigurosos estándares aplicados en sectores como la aviación y la medicina. Esto implicaría evaluaciones de riesgo exhaustivas antes de que un sistema se despliegue en cualquier entorno donde pueda interactuar con personas, especialmente con poblaciones vulnerables.
«Si un sistema de IA va a dirigir un robot que interactúa con personas vulnerables, debe cumplir con estándares al menos tan exigentes como los de un nuevo dispositivo médico o fármaco», afirmó Rumaisa Azeem, coautora del estudio e investigadora del King’s College de Londres. «Esta investigación subraya la urgente necesidad de realizar evaluaciones de riesgo rutinarias y exhaustivas de la IA antes de su uso en robots». Las investigaciones futuras podrían centrarse en desarrollar salvaguardias técnicas más eficaces, explorar sistemas de control alternativos que no dependan de entradas de lenguaje abierto y establecer marcos éticos y legales claros para regular el uso de robots autónomos en la sociedad.
El estudio, titulado “ Los robots impulsados por LLM corren el riesgo de perpetrar discriminación, violencia y acciones ilegales ”, fue realizado por Andrew Hundt, Rumaisa Azeem, Masoumeh Mansouri y Martim Brandão.