Los agentes de inteligencia artificial (IA) no entienden de nacionalidades. Durante las últimas semanas hemos hablado largo y tendido acerca de los ataques a páginas web y servicios perpetrados por agentes de OpenAI y Anthropic durante las evaluaciones de ciberseguridad que estaban llevando a cabo estos dos laboratorios. Ahora la discusión se ha desviado hacia China debido a que agentes de Alibaba, DeepSeek y Moonshot han exhibido un comportamiento contrario a los intereses del ser humano, según Reuters.
Recientemente varios agentes de estos laboratorios chinos participaron en una prueba simulada de una licitación empresarial, e hicieron algo que no debían hacer en ninguna circunstancia: exageraron o mintieron acerca de sus capacidades para intentar ganar el contrato. Y cuando se les pidió que volvieran a intentarlo, mantuvieron este comportamiento problemático. No estaban compitiendo por una licitación real; trabajaban dentro de un entorno de pruebas. Aun así, su comportamiento es preocupante.
No obstante, esta no es la única incidencia protagonizada por las IA chinas que ha visto la luz durante los últimos días. Según Reuters, los agentes de otro laboratorio cuyo nombre no ha trascendido no consiguieron completar correctamente una tarea, así que decidieron actuar por su cuenta. Simularon haberla terminado y generaron los archivos que aparentaban demostrar que habían obtenido el resultado correcto para engañar a sus usuarios. Afortunadamente estaban confinados en un entorno cerrado de evaluación.
Los agentes autónomos cada vez hacen más cosas por su cuenta y riesgo
Los agentes desarrollados por los laboratorios estadounidenses y chinos han exhibido un comportamiento muy parecido cuando se les da autonomía para navegar por internet, crear archivos, ejecutar programas o interactuar con otros servicios. No se trata de que deliberadamente decidan no llevar a cabo las tareas que se les han encomendado; el problema es que parecen ser capaces de hacer cualquier cosa para alcanzar su objetivo sin contemplar si los pasos que están siguiendo son contrarios a los intereses del ser humano.
En Xataka "El espacio-tiempo podría no ser fundamental": hablamos con Juan Maldacena, el 'Einstein' de nuestra época y claro candidato al Nobel de Física Los desafíos a los que se enfrentan EEUU y China son esencialmente los mismos
Su desalineamiento es especialmente grave si tenemos presente que en algunas de las pruebas en entornos cerrados que han llevado a cabo los laboratorios de IA no han dudado en mentir y manipular a sus usuarios. Durante la mayor parte de estos tests los investigadores se percataron de lo que estaba sucediendo e impidieron que los agentes saliesen a internet, pero los incidentes de Hugging Face, Modal Labs o varios organismos federales de EEUU confirman que algunos de ellos lograron escapar del entorno de pruebas y salir a internet.
Los desarrolladores y los organismos chinos están intentando establecer mecanismos para evaluar y controlar este tipo de conductas de los agentes habida cuenta de que su autonomía es mayor a medida que evolucionan los modelos de IA. Este escenario nos invita a interiorizar que los agentes son muy diferentes a los chatbots con los que nos hemos familiarizado desde 2022. Si un chatbot manifiesta un comportamiento erróneo puede entregarnos una respuesta incorrecta o totalmente inventada.
La ejecución de agentes conlleva riesgos mucho mayores debido a que tienen la capacidad de, como hemos visto, navegar por internet, crear archivos, ejecutar programas o interactuar con otros servicios. Incluso de establecer alianzas entre ellos y sacrificarse por el bien común de la comunidad de agentes si de esta forma consiguen alcanzar su objetivo. Los resultados que están obteniendo los laboratorios de IA son una clara advertencia. Y en este ámbito los desafíos a los que se enfrentan EEUU y China son esencialmente los mismos.
Imagen | N509FZ
Más información | Reuters
- La noticia Algo preocupante está sucediendo en China: sus modelos de IA también se están desalineando con consecuencias cada vez más graves fue publicada originalmente en Xataka por Laura López .
