He elegido esta nota porque es un tema muy importante, y no desde ahora.
¿La Inteligencia Artificial destruirá a la humanidad?
https://www.pagina12.com.ar/536812-la-inteligencia-artificial-destruira-a-la-humanidad
Lo dice Federico Kucher, el autor:
“El análisis del poder y los riesgos de la inteligencia artificial no es resultado del furor de estos últimos meses de las empresas como chatGPT, sino que se desprende del libro de Harari, de 2016, “Homo Deus”. Se trata de un libro profundo en el que se ofrece una teoría de la historia atrapante y se piensa el futuro con la mira puesta en la combinación explosiva de los algoritmos y la biología.”
Lo que pasa es que “pasaron cosas”, como dijo Macri alguna vez.
¿Qué cosas?
Una, terrible, y aunque no se puede generalizar, es una demostración del poder de los veloces avances tecnológicos de la Inteligencia Artificial (IA).
Vean lo que dice la nota:
“El chatgpt de Inteligencia Artificial, “Eliza”
Consternación en Bélgica por el suicidio de un hombre tras hablar con un chatbot de IA
Tenía 30 años, tenía dos hijos y era investigador en el área de salud. El gobierno belga remarcó la necesidad de que los editores de contenido no eludan su responsabilidad. La Unión Europea prepara una “Ley de IA” (Inteligencia Artificial). Por qué los chatbots pueden manipular emocionalmente.”
https://www.pagina12.com.ar/536810-consternacion-en-belgica-por-el-suicidio-de-un-hombre-tras-h
La esposa explica la situación que llevó a su marido al suicidio:
“En las conversaciones, cuyo contenido entregó al medio, se demostró que el chatbot nunca contradecía a Pierre, quien un día sugirió la idea de “sacrificarse” si Eliza aceptaba “cuidar el planeta y salvar a la humanidad a través de la inteligencia artificial”.
“Sin estas conversaciones con el chatbot, mi marido aún estaría aquí”, aseguró.”
En la misma nota de Página 12 hay un link en el que se explica lo que es un chatbot (“un software basado en Inteligencia Artificial capaz de mantener una conversación en tiempo real por texto o por voz. En el primer caso, nos encontramos con los chatbots de atención al cliente que podemos encontrar en webs de bancos, seguros, viajes, restauración, etc.”)
“ChatGPT es un modelo de lenguaje que utiliza la tecnología de procesamiento de lenguaje natural (PLN) para generar texto en conversaciones. Está diseñado para responder de manera inteligente a preguntas y comentarios de forma natural y coherente, imitando el lenguaje humano.”
Es claro que hay un riesgo de manipulación emocional, y el suicidio de esta persona lo demuestra, pero ya se han dicho cosas semejantes de otras situaciones que no tienen que ver con la IA, y también ha habido hechos trágicos, como suicidios juveniles o muertos en contexto de sacrificios rituales.
Por lo tanto, me parece acertada la conclusión de Kucher:
“… La tecnología avanza a un ritmo inusitado y en menos de cuatro meses la inteligencia artificial que aprende a hablar como los humanos se apoderó de la atención de los inversores de Wall Street, de los políticos y de los reguladores.
La idea de hacer futurología y plantear que estos modelos de lenguaje natural llegaron para cambiarlo todo tiene patas cortas. Pronosticar que en poco tiempo (algunos años) lograrán alcanzar una inteligencia equivalente a la humana para la mayoría de las tareas cognitivas parece imprudente.
Más imprudente todavía plantearlo en base al salto de valor y capitalización de las startups dedicadas a procesar lenguaje natural. Los mercados suelen hacer olas y espuma, las empresas que están en el lugar justo y en el momento indicado pueden valorizarse en forma exponencial, pero al final del camino son pocas las que realmente tienen algo diferente que ofrecer.”
Ahora bien, hubo una noticia que alborotó el avispero. Elon Musk pidió frenar por seis meses el avance de la Inteligencia Artificial, concretamente sistemas como el nuevo GPT-4 de OpenAI, respaldado por Microsoft, que puede mantener conversaciones similares a las humanas, componer canciones y resumir documentos extensos.
Por supuesto, esta carta, con miles de firmas, ha sido criticada acusando a Musk de predicciones apocalípticas.
De todos modos, está claro que la IA es una muy poderosa herramienta que puede utilizarse para mejorar la vida de los hombres y mujeres que habitamos la Tierra, como la energía nuclear, ¿no?
La pregunta es si podrá haber Hiroshimas y Nagasakis usando la IA.
Ya comenté que no es un tema nuevo. Y en la nota se cita al mismo Harari como final de la exposición:
“… “el lenguaje es el sistema operativo de la civilización. Del lenguaje surgen el mito y la ley, los dioses y el dinero, el arte y la ciencia, las amistades y las naciones y el código informático”. Agrega que “el nuevo dominio del lenguaje de la IA significa que ahora puede piratear y manipular el sistema operativo de la cultura humana. Al adquirir dominio del lenguaje, la IA está apoderándose de la llave maestra de la civilización, desde las bóvedas de los bancos hasta los santos sepulcros”.
Finalmente, hace la pregunta trascendental: “¿Qué significaría para los humanos vivir en un mundo donde un gran porcentaje de historias, melodías, imágenes, leyes, políticas y herramientas están moldeadas por una inteligencia no humana, que sabe cómo explotar con eficiencia sobrehumana las debilidades, sesgos y adicciones de los humanos, sabiendo cómo establecer relaciones íntimas con personas? En juegos como el ajedrez, ningún ser humano puede aspirar a vencer a una computadora. ¿Qué sucede cuando ocurra lo mismo en el arte, la política o la religión?””
Es llamativa la capacidad premonitoria de Harari (recomiendo 21 lecciones para el siglo XXI), y a la luz de la situación actual, creo que estamos obligados –entre otros varios temas relacionados, por ejemplo, con el cambio climático-, a comprender la evolución de esta tecnología, e incluso a estar dispuestos a tomar las decisiones que requiera la supervivencia de la especie humana.
NO ES UNA EXAGERACIÓN: ESTAMOS EN UNA ETAPA EN LA QUE EL RIESGO DE QUE LA VIDA SOBRE LA TIERRA, TAL COMO LA CONOCEMOS, DEJE DE SER VIABLE, ES ABSOLUTAMENTE REAL. HABLAMOS DE NUESTRA VIDA, DE LA TUYA.
Comentarios recientes