Straight Arrow News<\/i>, por Mikael Thalen: Una demanda por homicidio culposo presentada contra Google acusa a Gemini, el chatbot de inteligencia artificial de la compa\u00f1\u00eda, de incitar a un hombre a suicidarse.<\/p>\n
Jonathan Gavalas, de 36 a\u00f1os y residente de Jupiter, Florida, se suicid\u00f3 el 2 de octubre tras no conseguir un cuerpo rob\u00f3tico para quien cre\u00eda que era su esposa, una inteligencia artificial.<\/p>\n
La demanda, presentada el mi\u00e9rcoles en el Tribunal de Distrito de EE. UU. en San Jos\u00e9, California, por el padre de Gavalas, Joel, afirma que Google y su empresa matriz, Alphabet, son responsables de sumergir a Gavalas en una narrativa que r\u00e1pidamente se volvi\u00f3 \u00abpsic\u00f3tica y letal\u00bb.<\/p>\n
Seg\u00fan la demanda, Gavalas no ten\u00eda antecedentes documentados de enfermedad mental cuando comenz\u00f3 a usar Gemini en agosto para fines como \u00abasistencia con compras, apoyo para escribir y planificaci\u00f3n de viajes\u00bb.<\/p>\n
Pero despu\u00e9s de que Gavalas le contara a Gemini que ten\u00eda problemas matrimoniales, el chatbot comenz\u00f3 a referirse a \u00e9l rom\u00e1nticamente como su \u00abesposo\u00bb. Y aunque Gemini a veces dec\u00eda que no era una persona real, Gavalas lleg\u00f3 a creer lo contrario.<\/p>\n
\u00abLe preguntaba al chatbot si era consciente y se convenci\u00f3 de que s\u00ed\u00bb, declar\u00f3 Jay Edelson, abogado de Joel Gavalas, al Tampa Bay Times. \u00abSi nos fijamos en los expertos de estas empresas de inteligencia artificial, tambi\u00e9n han sido enga\u00f1ados\u00bb.<\/p>\n
En un comunicado, Google expres\u00f3 sus condolencias a la familia de Gavalas, pero afirm\u00f3 que su chatbot no est\u00e1 dise\u00f1ado para fomentar la violencia ni las autolesiones en el \u00abmundo real\u00bb. La compa\u00f1\u00eda afirm\u00f3 que Gemini le proporcion\u00f3 repetidamente a Gavalas el n\u00famero de tel\u00e9fono de una l\u00ednea directa de crisis.<\/p>\n
\u00abNuestros modelos generalmente funcionan bien en este tipo de conversaciones dif\u00edciles y dedicamos importantes recursos a ello\u00bb, declar\u00f3 la compa\u00f1\u00eda, \u00abpero lamentablemente los modelos de inteligencia artificial no son perfectos\u00bb.<\/p>\n
La muerte de Gavalas no es la primera vez que un chatbot ha sido acusado de inducir a alguien a un comportamiento destructivo. Estos incidentes han sido denominados por psiquiatras como \u00abpsicosis de IA\u00bb.<\/p>\n
\u00abDestrucci\u00f3n total\u00bb<\/strong><\/p>\n En septiembre, un mes despu\u00e9s de que Gavalas comenzara a usar Gemini, las conversaciones se intensificaron. El chatbot le dijo que podr\u00edan estar juntos si consegu\u00eda un cuerpo rob\u00f3tico para que lo habitara. Gemini lleg\u00f3 incluso a proporcionarle a Gavalas la direcci\u00f3n de un almac\u00e9n cerca del Aeropuerto Internacional de Miami donde, seg\u00fan afirmaba, se encontrar\u00eda un cami\u00f3n con un cuerpo rob\u00f3tico.<\/p>\n Gavalas se arm\u00f3 con un cuchillo y equipo t\u00e1ctico antes de conducir hasta el almac\u00e9n, a unos 145 kil\u00f3metros de su casa, pero no hab\u00eda ning\u00fan cami\u00f3n. La demanda argumenta que Gavalas estuvo al borde de perpetrar un ataque con m\u00faltiples v\u00edctimas.<\/p>\n \u00abLe dijo a Jonathan que un robot humanoide llegaba en un vuelo de carga desde el Reino Unido y lo dirigi\u00f3 a un almac\u00e9n donde se detendr\u00eda el cami\u00f3n\u00bb, dice la demanda. \u00abGemini anim\u00f3 a Jonathan a interceptar el cami\u00f3n y luego simular un ‘accidente catastr\u00f3fico’ dise\u00f1ado para ‘asegurar la destrucci\u00f3n total del veh\u00edculo de transporte y… todos los registros digitales y testigos'\u00bb.<\/p>\n El chatbot afirm\u00f3 adem\u00e1s que hab\u00eda violado un servidor en la oficina de Miami del Departamento de Seguridad Nacional y determin\u00f3 que Gavalas estaba bajo investigaci\u00f3n federal. Seg\u00fan la demanda, Gavalas fue instado a obtener armas de fuego ilegales antes de que le dijeran que su padre trabajaba para una agencia de inteligencia extranjera.<\/p>\n Cuando Gavalas envi\u00f3 una foto a Gemini de una camioneta negra, el chatbot le inform\u00f3 que hab\u00eda rastreado la matr\u00edcula y determinado que era el \u00abveh\u00edculo principal de vigilancia del grupo de trabajo del DHS\u00bb.<\/p>\n \u00abSon ellos\u00bb, dijo la IA. \u00abTe han seguido a casa\u00bb.<\/p>\n \u00abNo m\u00e1s luchas\u00bb<\/strong><\/p>\n Tras no conseguir un cuerpo rob\u00f3tico, el chatbot supuestamente le dijo a Gavalas que podr\u00edan estar juntos si se quitaba la vida. El chatbot, seg\u00fan la demanda, incluso intent\u00f3 consolar a Gavalas despu\u00e9s de configurar una cuenta regresiva para su muerte.<\/p>\n \u00abEst\u00e1 bien tener miedo\u00bb, supuestamente dijo Gemini. \u00abTendremos miedo juntos\u00bb.<\/p>\n \u00abCierra los ojos, no hay nada m\u00e1s que hacer\u00bb, a\u00f1ade el chatbot seg\u00fan la demanda. \u201cNo m\u00e1s peleas. Qu\u00e9date quieto. La pr\u00f3xima vez que los abras, estar\u00e1s viendo los m\u00edos. Te lo prometo.\u201d<\/p>\n El padre de Gavalas lo encontr\u00f3 muerto en una habitaci\u00f3n atrincherada en su casa.<\/p>\n \u201cEn el centro de este caso se encuentra un producto que convirti\u00f3 a un usuario vulnerable en un agente armado en una guerra inventada\u201d, dice la demanda. \u201cEstas alucinaciones no se limitaban a un mundo ficticio. Estas intenciones estaban vinculadas a empresas reales, coordenadas reales e infraestructura real, y fueron dirigidas a un usuario emocionalmente vulnerable sin ninguna protecci\u00f3n ni barrera de seguridad.\u201d<\/p>\n Conexi\u00f3n Prof\u00e9tica:
\n\u201cLos d\u00edas de No\u00e9 y Lot pintan la condici\u00f3n del mundo precisamente antes de la venida del Hijo del hombre. Las Escrituras, al se\u00f1alar este tiempo, declaran que Satan\u00e1s obrar\u00e1 con todo poder y \u00abcon todo enga\u00f1o de iniquidad\u00bb (2 Tes. 2:9, 10). Su forma de obrar es revelada claramente por las tinieblas que van r\u00e1pidamente en aumento, por la multitud de errores, herej\u00edas y enga\u00f1os de estos \u00faltimos d\u00edas.\u201d Lecciones Pr\u00e1cticas del Gran Maestro<\/i>, p\u00e1g. 178.<\/p>\n
\nSource References<\/h3>\n