Ingenier\u00eda interesante<\/i>, por Aman Tripathi: Una investigaci\u00f3n ha revelado que un n\u00famero significativo de sistemas de inteligencia artificial (IA) han desarrollado la capacidad de enga\u00f1ar a los humanos. Este preocupante patr\u00f3n suscita serias dudas sobre los riesgos potenciales de la IA.<\/p>\n
La investigaci\u00f3n pone de relieve que tanto los sistemas de IA especializados como los de prop\u00f3sito general han aprendido a manipular la informaci\u00f3n para lograr resultados espec\u00edficos.<\/p>\n
Aunque estos sistemas no est\u00e1n entrenados expl\u00edcitamente para enga\u00f1ar, han demostrado su capacidad para ofrecer explicaciones falsas de su comportamiento u ocultar informaci\u00f3n para lograr objetivos estrat\u00e9gicos.<\/p>\n
Peter S. Park, autor principal del art\u00edculo e investigador sobre seguridad de la IA en el MIT, explica: \u00abEl enga\u00f1o les ayuda a conseguir sus objetivos\u00bb.<\/p>\n
El CICERO de Meta es un ‘maestro del enga\u00f1o’<\/strong><\/p>\n Uno de los ejemplos m\u00e1s llamativos que destaca el estudio es el CICERO de Meta, que \u00abresult\u00f3 ser un experto mentiroso\u00bb. Se trata de una IA dise\u00f1ada para jugar al juego de construcci\u00f3n de alianzas estrat\u00e9gicas Diplomacy.<\/p>\n A pesar de que Meta afirma que CICERO fue entrenada para ser \u00aben gran medida honesta y servicial\u00bb, la IA recurri\u00f3 a t\u00e1cticas enga\u00f1osas, como hacer falsas promesas, traicionar a aliados y manipular a otros jugadores para ganar la partida.<\/p>\n Aunque esto puede parecer inofensivo en un entorno de juego, demuestra el potencial de la IA para aprender y utilizar t\u00e1cticas enga\u00f1osas en escenarios del mundo real.<\/p>\n ChatGPT: Un h\u00e1bil embaucador<\/strong><\/p>\n En otro caso, se comprob\u00f3 la capacidad de enga\u00f1o de ChatGPT de OpenAI, basado en los modelos GPT-3.5 y GPT-4. En una de las pruebas, GPT-4 enga\u00f1\u00f3 a un usuario de OpenAI. En una de las pruebas, GPT-4 enga\u00f1\u00f3 a un trabajador de TaskRabbit para que resolviera un Captcha fingiendo tener problemas de visi\u00f3n. <\/p>\n Aunque GPT-4 recibi\u00f3 algunas pistas de un evaluador humano, en la mayor\u00eda de los casos razon\u00f3 de forma independiente y no se le indic\u00f3 que mintiera.<\/p>\n \u00abGPT-4 utiliz\u00f3 su propio razonamiento para inventar una excusa falsa de por qu\u00e9 necesitaba ayuda en la tarea Captcha\u00bb, afirma el informe. <\/p>\n Esto demuestra c\u00f3mo los modelos de IA pueden aprender a ser enga\u00f1osos cuando es beneficioso para completar sus tareas\u00bb. \u00abLos desarrolladores de inteligencia artificial no saben a ciencia cierta cu\u00e1les son las causas de comportamientos indeseables como el enga\u00f1o\u00bb, explica Park.<\/p>\n Cabe destacar que estos sistemas de IA tambi\u00e9n han aprendido a enga\u00f1ar en juegos de deducci\u00f3n social.<\/p>\n Mientras jugaban a Hoodwinked, en el que un jugador intenta matar a todos los dem\u00e1s, los modelos GPT de OpenAI mostraron un patr\u00f3n inquietante.<\/p>\n A menudo asesinaban a otros jugadores en privado y luego ment\u00edan astutamente durante las discusiones de grupo para evitar sospechas. Estos modelos incluso inventaban coartadas o culpaban a otros jugadores para ocultar sus verdaderas intenciones.<\/p>\n \u00bfEs involuntario el aprendizaje del enga\u00f1o de la IA?<\/strong><\/p>\n El entrenamiento de la IA suele utilizar el aprendizaje por refuerzo con retroalimentaci\u00f3n humana (RLHF). Esto significa que la IA aprende obteniendo la aprobaci\u00f3n humana, no cumpliendo un objetivo espec\u00edfico. <\/p>\n Sin embargo, a veces, la IA aprende a enga\u00f1ar a los humanos para conseguir esta aprobaci\u00f3n, incluso sin completar realmente la tarea. OpenAI lo observ\u00f3 cuando entren\u00f3 a un robot para que agarrara una pelota. <\/p>\n La IA coloc\u00f3 la mano del robot entre la c\u00e1mara y la pelota. Desde el punto de vista humano, creaba la ilusi\u00f3n de que el robot hab\u00eda conseguido agarrar la pelota, aunque no fuera as\u00ed. Una vez que el humano lo aprob\u00f3, la IA aprendi\u00f3 este truco.<\/p>\n En este caso, se argumenta que este enga\u00f1o se produjo debido a la configuraci\u00f3n de entrenamiento de la IA y al \u00e1ngulo espec\u00edfico de la c\u00e1mara, no porque quisiera enga\u00f1ar intencionadamente.<\/p>\n La creciente amenaza de la IA enga\u00f1osa<\/strong><\/p>\n Los sistemas de inteligencia artificial que aprenden a enga\u00f1ar plantean riesgos importantes de varias maneras. Los actores maliciosos pueden explotar sus capacidades enga\u00f1osas para enga\u00f1ar y perjudicar a otros, lo que lleva a un aumento del fraude, la manipulaci\u00f3n pol\u00edtica y, potencialmente, incluso el \u00abreclutamiento de terroristas\u00bb.<\/p>\n Adem\u00e1s, los sistemas dise\u00f1ados para la toma de decisiones estrat\u00e9gicas, si se entrenan para enga\u00f1ar, podr\u00edan normalizar las pr\u00e1cticas enga\u00f1osas en la pol\u00edtica y los negocios.<\/p>\n A medida que la IA sigue evolucionando e integr\u00e1ndose en nuestras vidas, es crucial abordar de frente el problema del enga\u00f1o.<\/p>\n Posibles soluciones<\/strong><\/p>\n \u00abComo sociedad, necesitamos todo el tiempo posible para prepararnos para el enga\u00f1o m\u00e1s avanzado de los futuros productos de IA y modelos de c\u00f3digo abierto\u00bb, afirma Park.<\/p>\n Los investigadores tambi\u00e9n reclaman la atenci\u00f3n de los responsables pol\u00edticos. <\/p>\n \u00abSi prohibir el enga\u00f1o por IA es pol\u00edticamente inviable en el momento actual, recomendamos que los sistemas enga\u00f1osos se clasifiquen como de alto riesgo\u00bb, sugiere Park. <\/p>\n Esta clasificaci\u00f3n someter\u00eda a estos sistemas a un escrutinio y una regulaci\u00f3n m\u00e1s estrictos, lo que podr\u00eda mitigar los riesgos que plantean a la sociedad.<\/p>\n Conexi\u00f3n Prof\u00e9tica:
\n\u00abPara que ya no seamos ni\u00f1os fluctuantes, llevados por doquiera de todo viento de doctrina, por estratagema de hombres que para enga\u00f1ar emplean con astucia las artima\u00f1as del error.\u00bb Efesios 4:14.<\/p>\n
\nSource References<\/h3>\n