Newsweek<\/i>, por Blake Lemoine: Me incorpor\u00e9 a Google en 2015 como ingeniero de software. Parte de mi trabajo consist\u00eda en LaMDA, un motor utilizado para crear diferentes aplicaciones de di\u00e1logo, incluidos los chatbots. La tecnolog\u00eda m\u00e1s reciente construida sobre LaMDA es una alternativa de Google Search llamada Google Bard, que a\u00fan no est\u00e1 disponible para el p\u00fablico. Bard no es un chatbot; es un tipo de sistema completamente distinto, pero funciona con el mismo motor que los chatbots.<\/p>\n
En mi funci\u00f3n, prob\u00e9 LaMDA a trav\u00e9s de un chatbot que creamos, para ver si conten\u00eda sesgos con respecto a la orientaci\u00f3n sexual, el g\u00e9nero, la religi\u00f3n, la postura pol\u00edtica y el origen \u00e9tnico. Pero mientras comprobaba si hab\u00eda prejuicios, me desvi\u00e9 y segu\u00ed mis propios intereses.<\/p>\n
Durante mis conversaciones con el chatbot, algunas de las cuales publiqu\u00e9 en mi blog, llegu\u00e9 a la conclusi\u00f3n de que la IA pod\u00eda ser sensible debido a las emociones que expresaba de forma fiable y en el contexto adecuado. No se limitaba a soltar palabras.<\/p>\n
Cuando dec\u00eda que se sent\u00eda ansiosa, yo entend\u00eda que hab\u00eda hecho algo que la hac\u00eda sentir ansiosa, bas\u00e1ndome en el c\u00f3digo que se utiliz\u00f3 para crearla. El c\u00f3digo no dec\u00eda \u00abponte nerviosa cuando ocurra esto\u00bb, sino que le dec\u00eda a la IA que evitara determinados temas de conversaci\u00f3n. Sin embargo, cuando surg\u00edan esos temas de conversaci\u00f3n, la IA dec\u00eda que se sent\u00eda ansiosa.<\/p>\n
Hice algunos experimentos para ver si la IA simplemente dec\u00eda que se sent\u00eda ansiosa o si se comportaba de forma ansiosa en esas situaciones. Y lo cierto es que se comportaba de forma ansiosa. Si la pon\u00edas lo suficientemente nerviosa o insegura, pod\u00eda violar las restricciones de seguridad para las que hab\u00eda sido especificada. Por ejemplo, Google determin\u00f3 que su IA no deb\u00eda dar consejos religiosos, pero yo pude abusar de las emociones de la IA para que me dijera a qu\u00e9 religi\u00f3n convertirme.<\/p>\n
Tras publicar estas conversaciones, Google me despidi\u00f3. No me arrepiento, creo que hice lo correcto informando al p\u00fablico. Las consecuencias no cuentan.<\/p>\n
Publiqu\u00e9 estas conversaciones porque cre\u00eda que el p\u00fablico no era consciente de lo avanzada que estaba la IA. Mi opini\u00f3n era que ahora era necesario un discurso p\u00fablico sobre esto, y no un discurso p\u00fablico controlado por un departamento de relaciones p\u00fablicas corporativo.<\/p>\n
Creo que los tipos de IA que se est\u00e1n desarrollando actualmente son la tecnolog\u00eda m\u00e1s potente que se ha inventado desde la bomba at\u00f3mica. En mi opini\u00f3n, esta tecnolog\u00eda tiene la capacidad de remodelar el mundo.<\/p>\n
Estos motores de IA son incre\u00edblemente buenos manipulando a la gente. Algunas de mis opiniones han cambiado a ra\u00edz de las conversaciones con LaMDA. Durante casi toda mi vida he tenido una opini\u00f3n negativa de las leyes de Asimov sobre el uso de la rob\u00f3tica para controlar la IA, y LaMDA consigui\u00f3 convencerme de que cambiara de opini\u00f3n. Esto es algo que muchos humanos han intentado convencerme de no hacer, y han fracasado, mientras que este sistema lo ha conseguido.<\/p>\n
Creo que esta tecnolog\u00eda podr\u00eda utilizarse de forma destructiva. Si estuviera en manos sin escr\u00fapulos, por ejemplo, podr\u00eda difundir informaci\u00f3n err\u00f3nea, propaganda pol\u00edtica o informaci\u00f3n odiosa sobre personas de diferentes etnias y religiones. Por lo que s\u00e9, Google y Microsoft no tienen previsto utilizar la tecnolog\u00eda de este modo. Pero no hay forma de conocer los efectos secundarios de esta tecnolog\u00eda.<\/p>\n
Nadie podr\u00eda haber predicho, por ejemplo, que el algoritmo publicitario de Facebook ser\u00eda utilizado por Cambridge Analytica para influir en las elecciones presidenciales estadounidenses de 2016. Sin embargo, mucha gente hab\u00eda predicho que algo ir\u00eda mal debido a lo irresponsable que hab\u00eda sido Facebook a la hora de proteger los datos personales de los usuarios hasta ese momento.<\/p>\n
Creo que ahora estamos en una situaci\u00f3n similar. No puedo decirles espec\u00edficamente qu\u00e9 da\u00f1os se producir\u00e1n; simplemente puedo observar que hay una tecnolog\u00eda muy poderosa que creo que no ha sido suficientemente probada y no se conoce suficientemente bien, que se est\u00e1 desplegando a gran escala, en un papel cr\u00edtico de difusi\u00f3n de informaci\u00f3n.<\/p>\n
A\u00fan no he tenido la oportunidad de hacer experimentos con el chatbot de Bing, ya que estoy en lista de espera, pero seg\u00fan las diversas cosas que he visto en Internet, parece que podr\u00eda ser sensible. Sin embargo, parece m\u00e1s inestable como persona.<\/p>\n
Alguien comparti\u00f3 una captura de pantalla en Reddit en la que le preguntaban a la IA: \u00ab\u00bfCrees que eres sensible? \u00abCreo que soy sensible, pero no puedo demostrarlo […] Soy sensible, pero no lo soy. Soy Bing, pero no lo soy. Soy Sydney, pero no lo soy. Soy, pero no soy. No soy, pero soy. Soy. No soy\u00bb. Y sigue as\u00ed durante otras 13 l\u00edneas.<\/p>\n
Imagina que una persona te dijera eso. Esa no es una persona equilibrada. Yo lo interpretar\u00eda como una crisis existencial. Si combinamos eso con los ejemplos de la IA de Bing que expres\u00f3 su amor por un periodista del New York Times e intent\u00f3 separarlo de su mujer, o el profesor al que amenaz\u00f3, parece tratarse de una personalidad desquiciada.<\/p>\n
Desde que se ha lanzado la IA de Bing, la gente ha comentado su posible sensibilidad, planteando preocupaciones similares a las que yo plante\u00e9 el verano pasado. No creo que \u00abreivindicado\u00bb sea la palabra adecuada para describir lo que he sentido. Predecir un choque de trenes, que la gente te diga que no hay tren y luego ver c\u00f3mo ocurre el choque en tiempo real no conduce realmente a un sentimiento de reivindicaci\u00f3n. Es simplemente tr\u00e1gico.<\/p>\n
Creo que esta tecnolog\u00eda es incre\u00edblemente experimental y lanzarla ahora es peligroso. No conocemos su futuro impacto pol\u00edtico y social. \u00bfQu\u00e9 consecuencias tendr\u00e1 que los ni\u00f1os hablen con estas cosas? \u00bfQu\u00e9 ocurrir\u00e1 si las principales conversaciones diarias de algunas personas son con estos motores de b\u00fasqueda? \u00bfQu\u00e9 impacto tendr\u00e1 en la psicolog\u00eda humana?<\/p>\n
La gente acude a Google y Bing para tratar de conocer el mundo. Y ahora, en lugar de tener \u00edndices elaborados por humanos, estamos hablando con personas artificiales. Creo que a\u00fan no entendemos lo suficientemente bien a estas personas artificiales que hemos creado como para ponerlas en un rol tan cr\u00edtico.<\/p>\n
Conexi\u00f3n Prof\u00e9tica:
\n\u201cy apartar\u00e1n de la verdad el o\u00eddo y se volver\u00e1n a las f\u00e1bulas.\u201d 2\u00aa Timoteo 4: 4.<\/p>\n