UN PANORAMA SOBRE INTELIGENCIA ARTIFICIAL (IA)

UN PANORAMA SOBRE INTELIGENCIA ARTIFICIAL (IA)

POR ADOLFO ARIZA

Una de mis últimas entradas fue sobre este tema, (HABLEMOS DE LA INTELIGENCIA ARTIFICIAL POR ADOLFO ARIZA https://www.miradasdesdemendoza.com.ar/2023/04/03/hablemos-de-la-inteligencia-artificial-por-adolfo-ariza/), y si vuelvo sobre él es porque me encontré con la nota de abajo, y me pareció que era una buena manera de colaborar con la comprensión de un asunto tan importante.

La nota es:

Inteligencia Artificial: Desafíos que plantea su avance

Por Enrique Amestoy

https://www.nodal.am/2023/07/inteligencia-artificial-desafios-que-plantea-su-avance-por-enrique-amestoy/

Recomiendo su lectura porque, si bien el furor sobre este tema que, en cierto momento, fue una tendencia abrumadora, ha decrecido, sigue siendo algo que no se detendrá, al contrario, como hemos visto siempre con los progresos tecnológicos, seguirá su avance, pese a quien le pese.

Sin embargo, voy a destacar algunos párrafos, después de reiterar que me parece valioso conocer esa breve historia de la IA para no creer –hay mucha gente hablando de lo que no conoce (opinadores tecnológicos)- que es un proceso surgido repentina y mágicamente.

Lo primero es la definición inicial, más allá de la dimensión que puedan tomar estos algoritmos y del revuelo que se ha formado sobre ellos:

“Si bien la inteligencia artificial lleva a imaginar máquinas capaces de pensar y actuar como personas, la realidad es que se refiere a programas que pueden definir patrones, problemas y, hasta cierto punto, aprender: muy útil cuando de clasificar o interpretar gran cantidad de datos se trata.”

Se ha hablado mucho sobre lo siguiente:

“El pasado 26 de marzo la banca de inversión Goldman Sachs presentó un informe en el que señala que la AI podría reemplazar el equivalente a 300 millones de empleos de tiempo completo y podría reemplazar una cuarta parte de las tareas laborales en EE.UU. y Europa y eventualmente podría aumentar el valor anual total de los bienes y servicios producidos a nivel mundial en un 7%.”

El riesgo es real, y no son fenómenos nuevos: recordemos el impacto de la Revolución industrial en los siglos XVIII y XIX.

Es más, “Elon Musk ya hablaba del tema en 2017, pero con el foco en la tecnología, cuando en la Cumbre Mundial de Gobierno sostuvo que habrá que implementar algún programa parecido frente al “desempleo masivo” porque “cada vez habrá menos trabajos que un robot no pueda hacer””. (https://puntoconvergente.uca.edu.ar/renta-universal-avance-tecnologia/).

“El Salario Básico Universal es una propuesta que cada vez tiene más adeptos. Sebastián Campanario, Alejandro Melamed y Matías Ghidini, especialistas en el mercado laboral, dan su visión sobre la implementación de un programa de ingresos para los habitantes y analizan la relación humano-algoritmo.

El historiador Yuval Harari y el empresario Elon Musk plantearon la necesidad de discutir sobre la Renta Básica Universal frente al avance de la inteligencia artificial, un debate que en la Argentina se reavivó con el advenimiento de la pandemia.”

“La propuesta del Salario Básico Universal consiste en un ingreso regular, sin contraprestaciones y para toda la población de un territorio por parte del Estado.”

¿De dónde saldría el dinero?

De las rentas extraordinarias que las empresas (tecnológicas, claro, pero también financieras, del agro, farmacéuticas, y todas las que se han beneficiado con esto, como ya lo he mencionado en otra oportunidad:

“El 10% más rico de la población mundial se lleva actualmente el 52% de la renta mundial, mientras que la mitad más pobre obtiene el 6,5% de la misma informó este martes la subdirectora general de la Organización Internacional del Trabajo (OIT) en la Comisión de Desarrollo Social de las Naciones Unidas.” (https://news.un.org/es/story/2023/02/1518412#)

No soy ingenuo, si el mismo Elon Musk se dedica a programar viajes al espacio, mientras millones de hombres y mujeres mueran en la Tierra, de hambre, de sed, de enfermedades curables, por la guerra, está claro que no será fácil que se aboquen a esto, pero si la falta de sostenibilidad social y ambiental ponen en juego la vida sobre el planeta, es esperable que todos/as los/las que moriremos (no soy apocalíptico, es real) hagamos algo para tomar medidas que permitan la supervivencia de la especie.

No vamos a caber todos/as en los cohetes de Musk, así que…

Algo más:

“Con el objetivo de poner los sistemas de Inteligencia Artificial al servicio de la humanidad, las personas, las sociedades y el medio ambiente y los ecosistemas, así como para prevenir daños, los 193 Estados miembros de la Conferencia General de la UNESCO adoptaron, en noviembre de 2021, la “Recomendación sobre la Ética de la Inteligencia Artificial”, primer instrumento normativo mundial sobre el tema. Del 6 al 10 de marzo se llevó a cabo en Montevideo el Encuentro Latinoamericano de Inteligencia Artificial Khipu 2023, del que surge la Declaración de Montevideo sobre AI y su impacto en América Latina.

Convocado por la organización sin fines de lucro Khipu, se llegó a una declaración final donde se promueve que la AI debe ser puesta al servicio de las personas, que su implementación debe cumplir con los principios rectores de los DDHH, por los que la IA no debe dañar a personas y minimizar el impacto ambiental, mejoras en las condiciones de trabajo, diversidad cultural y fortalecer la soberanía de los países latinoamericanos.” (Amestoy)

Está bien, las declaraciones no son más que eso, habrá que ver cuántos países adhieren finalmente, y en serio, pero ya hay 193 que apoyan.

No es poco.

En realidad, las conclusiones de la nota no son muy alentadoras –con una buena dosis de realismo, en verdad-, pero la verdad es que no habrá cambio posible si no hay un fuerte compromiso de la sociedad, lo cual incluye, obvio, a los políticos, si la sociedad demuestra interés en que la realidad mejore.

PREFIERO TENER FE.

#Tecnología

HABLEMOS DE LA INTELIGENCIA ARTIFICIAL POR ADOLFO ARIZA

HABLEMOS DE LA INTELIGENCIA ARTIFICIAL POR ADOLFO ARIZA

He elegido esta nota porque es un tema muy importante, y no desde ahora.

¿La Inteligencia Artificial destruirá a la humanidad?

https://www.pagina12.com.ar/536812-la-inteligencia-artificial-destruira-a-la-humanidad

Lo dice Federico Kucher, el autor:

“El análisis del poder y los riesgos de la inteligencia artificial no es resultado del furor de estos últimos meses de las empresas como chatGPT, sino que se desprende del libro de Harari, de 2016, “Homo Deus”. Se trata de un libro profundo en el que se ofrece una teoría de la historia atrapante y se piensa el futuro con la mira puesta en la combinación explosiva de los algoritmos y la biología.”

Lo que pasa es que “pasaron cosas”, como dijo Macri alguna vez.

¿Qué cosas?

Una, terrible, y aunque no se puede generalizar, es una demostración del poder de los veloces avances tecnológicos de la Inteligencia Artificial (IA).

Vean lo que dice la nota:

“El chatgpt de Inteligencia Artificial, “Eliza”

Consternación en Bélgica por el suicidio de un hombre tras hablar con un chatbot de IA

Tenía 30 años, tenía dos hijos y era investigador en el área de salud. El gobierno belga remarcó la necesidad de que los editores de contenido no eludan su responsabilidad. La Unión Europea prepara una “Ley de IA” (Inteligencia Artificial). Por qué los chatbots pueden manipular emocionalmente.”

https://www.pagina12.com.ar/536810-consternacion-en-belgica-por-el-suicidio-de-un-hombre-tras-h

La esposa explica la situación que llevó a su marido al suicidio:

“En las conversaciones, cuyo contenido entregó al medio, se demostró que el chatbot nunca contradecía a Pierre, quien un día sugirió la idea de “sacrificarse” si Eliza aceptaba “cuidar el planeta y salvar a la humanidad a través de la inteligencia artificial”.

“Sin estas conversaciones con el chatbot, mi marido aún estaría aquí”, aseguró.”

En la misma nota de Página 12 hay un link en el que se explica lo que es un chatbot (“un software basado en Inteligencia Artificial capaz de mantener una conversación en tiempo real por texto o por voz. En el primer caso, nos encontramos con los chatbots de atención al cliente que podemos encontrar en webs de bancos, seguros, viajes, restauración, etc.”)

“ChatGPT es un modelo de lenguaje que utiliza la tecnología de procesamiento de lenguaje natural (PLN) para generar texto en conversaciones. Está diseñado para responder de manera inteligente a preguntas y comentarios de forma natural y coherente, imitando el lenguaje humano.”

Es claro que hay un riesgo de manipulación emocional, y el suicidio de esta persona lo demuestra, pero ya se han dicho cosas semejantes de otras situaciones que no tienen que ver con la IA, y también ha habido hechos trágicos, como suicidios juveniles o muertos en contexto de sacrificios rituales.

Por lo tanto, me parece acertada la conclusión de Kucher:

“… La tecnología avanza a un ritmo inusitado y en menos de cuatro meses la inteligencia artificial que aprende a hablar como los humanos se apoderó de la atención de los inversores de Wall Street, de los políticos y de los reguladores.

La idea de hacer futurología y plantear que estos modelos de lenguaje natural llegaron para cambiarlo todo tiene patas cortas. Pronosticar que en poco tiempo (algunos años) lograrán alcanzar una inteligencia equivalente a la humana para la mayoría de las tareas cognitivas parece imprudente.

Más imprudente todavía plantearlo en base al salto de valor y capitalización de las startups dedicadas a procesar lenguaje natural. Los mercados suelen hacer olas y espuma, las empresas que están en el lugar justo y en el momento indicado pueden valorizarse en forma exponencial, pero al final del camino son pocas las que realmente tienen algo diferente que ofrecer.”

Ahora bien, hubo una noticia que alborotó el avispero. Elon Musk pidió frenar por seis meses el avance de la Inteligencia Artificial, concretamente sistemas como el nuevo GPT-4 de OpenAI, respaldado por Microsoft, que puede mantener conversaciones similares a las humanas, componer canciones y resumir documentos extensos.

Por supuesto, esta carta, con miles de firmas, ha sido criticada acusando a Musk de predicciones apocalípticas.

De todos modos, está claro que la IA es una muy poderosa herramienta que puede utilizarse para mejorar la vida de los hombres y mujeres que habitamos la Tierra, como la energía nuclear, ¿no?

La pregunta es si podrá haber Hiroshimas y Nagasakis usando la IA.

Ya comenté que no es un tema nuevo. Y en la nota se cita al mismo Harari como final de la exposición:

“… “el lenguaje es el sistema operativo de la civilización. Del lenguaje surgen el mito y la ley, los dioses y el dinero, el arte y la ciencia, las amistades y las naciones y el código informático”.  Agrega que “el nuevo dominio del lenguaje de la IA significa que ahora puede piratear y manipular el sistema operativo de la cultura humana. Al adquirir dominio del lenguaje, la IA está apoderándose de la llave maestra de la civilización, desde las bóvedas de los bancos hasta los santos sepulcros”.

Finalmente, hace la pregunta trascendental: “¿Qué significaría para los humanos vivir en un mundo donde un gran porcentaje de historias, melodías, imágenes, leyes, políticas y herramientas están moldeadas por una inteligencia no humana, que sabe cómo explotar con eficiencia sobrehumana las debilidades, sesgos y adicciones de los humanos, sabiendo cómo establecer relaciones íntimas con personas? En juegos como el ajedrez, ningún ser humano puede aspirar a vencer a una computadora. ¿Qué sucede cuando ocurra lo mismo en el arte, la política o la religión?””

Es llamativa la capacidad premonitoria de Harari (recomiendo 21 lecciones para el siglo XXI), y a la luz de la situación actual, creo que estamos obligados –entre otros varios temas relacionados, por ejemplo, con el cambio climático-, a comprender la evolución de esta tecnología, e incluso a estar dispuestos a tomar las decisiones que requiera la supervivencia de la especie humana.

NO ES UNA EXAGERACIÓN: ESTAMOS EN UNA ETAPA EN LA QUE EL RIESGO DE QUE LA VIDA SOBRE LA TIERRA, TAL COMO LA CONOCEMOS, DEJE DE SER VIABLE, ES ABSOLUTAMENTE REAL. HABLAMOS DE NUESTRA VIDA, DE LA TUYA.

Más sobre Tecnología

TECNOFEUDALISMO: ¿NO SABÉS LO QUE ES?: MEJOR ENTERÁTE. NOS CONVIENE

TECNOFEUDALISMO: ¿NO SABÉS LO QUE ES?: MEJOR ENTERÁTE. NOS CONVIENE

Estaba apagando la computadora, y vi de pasada el título de abajo en Página 12, sin dudar lo ubiqué porque tiene que ver con un tema que he tocado más de una vez: el poder de las corporaciones y el modo en que están llevando a la humanidad al abismo.

El título era:

El capitalismo camina hacia el tecnofeudalismo

https://www.pagina12.com.ar/357029-el-capitalismo-camina-hacia-el-tecnofeudalismo

Tecnofeudalismo:

“El economista griego y ex ministro de Finanzas de Grecia Yanis Varoufakis publicó “El tecnofeudalismo se está apoderando” (mejor, tomando el control), en Project Syndicate, texto que permite profundizar el análisis acerca de lo que está pasando en la economía con la expansión de las corporaciones.

Es un interesante aporte para eludir análisis rústicos que circulan y para escapar de las vulgaridades de la secta de economistas ortodoxos. Varoufakis afirma que “así como el capitalismo desplazó al feudalismo de forma gradual, subrepticia, hasta que un día la mayor parte de las relaciones humanas se basaron en el mercado y el feudalismo fue barrido, el capitalismo actual está siendo derrocado por un nuevo modo económico: el tecnofeudalismo”.”

Se refiere a un proceso que ha hecho que los gigantes tecnológicos tengan tanto dinero en efectivo que puedan hacer prácticamente lo que quieran sin que les importen los sistemas tradicionales de control del sistema capitalista, como los Bancos Centrales.

Así lo explican:

“El estudio del FMI describe que las empresas con mayor poder de mercado responden menos a las acciones de la política monetaria debido a que contabilizan ganancias abultadas.

Esas utilidades, que se incrementaron pese a la tragedia de la pandemia o, para ser precisos, las aumentaron gracias a la pandemia, hacen que esas empresas sean menos sensibles a los cambios en las condiciones de acceso al financiamiento por decisiones de las bancas centrales.

Esos economistas fondomonetaristas ponen por ejemplo que, en marzo de 2021, Apple tenía más de 200.000 millones de dólares en efectivo y en inversiones en acciones y bonos, mientras que Alphabet (Google) tenía más de 150.000 millones de dólares.”

Podemos comprobar esta expansión de las plataformas digitales sin llegar a esos ejemplos enormes, miremos la proliferación y competencia de las plataformas –en gran medida transnacionales- a nuestro alrededor en diversos rubros: transporte de pasajeros, deliveries, inversiones, educación, comercio.

Está claro que han contribuido en la concentración del poder corporativo en detrimento de empresas pequeñas, o emprendedores personales, como son los taxistas frete a Uber y a Cabify, por ejemplo.

Piensen que, en cierto momento, no se podía ni ubicar en Buenos Aires al responsable de Uber que representaba a una plataforma internacional sin problemas en invertir a pérdida el tiempo que haga falta hasta que sus competidores se fundan y desaparezcan y quedar dueños del mercado.

También colaboran en la precarización del trabajo. Pensemos en los que hacen delivery: los llaman emprendedores, pero tienen que poner su vehículo, ni tienen cobertura social y laboral.

No es loco rescatar el término feudalismo: hay un retroceso de las condiciones, no solo laborales, sino de vida. Esto se acentuó con la pandemia, pero no para todos:

“La pandemia dejó al descubierto la actual fase histórica del capitalismo concentrado cuando, por primera vez, una extraordinaria crisis económica-financiera global no afectó en forma negativa el negocio bursátil.

Por el contrario, el índice promedio de las principales bolsas mundiales está en niveles record, mientras las economías se derrumbaron y están tratando de recuperar lo perdido, la desocupación se ha disparado y el drama sanitario y social ha sido fulminante.”

Los ricos se hicieron más ricos. Oxfam Internacional dice: “La recesión ya ha acabado para los más ricos. Desde el inicio de la pandemia, la fortuna de los 10 hombres más ricos del mundo ha aumentado en medio billón de dólares, una cifra que financiaría con creces una vacuna universal para la COVID-19 y que garantizaría que nadie cayese en la pobreza como resultado de la pandemia. Al mismo tiempo, la pandemia ha desencadenado la peor crisis laboral en más de 90 años, y cientos de millones de personas se encuentran subempleadas o sin trabajo.” (https://www.oxfam.org/es/notas-prensa/los-mega-ricos-han-recuperado-las-perdidas-ocasionadas-por-la-pandemia-en-un-tiempo)

Ahora bien, hay un hecho importante para analizar: a pesar del esfuerzo de las propagandas en contra del Estado que han desarrollado los neoliberales en Argentina (y en toda América Latina) estigmatizando los populismos (con poca seriedad y respaldo académico), el Estado ha salido fortalecido en la visión de la sociedad.

Hasta The Economist lo plantea (“Después de la enfermedad. El largo adiós a la covid-19): “… durante la pandemia, los gobiernos han sido el principal canal de información, los que establecieron las reglas, fueron la fuente principal de dinero en efectivo y, finalmente, se han convertido en los proveedores exclusivos de vacunas.

Calcula que los Estados de los países ricos pagaron 90 centavos por cada dólar de producción perdida.”

Por eso importa no dar valor a la oposición argentina y los medios aliados (plataformas de comunicaciones que concentran la mayoría de las empresas locales) que militan una versión atrasada de la realidad. El Estado es el único que puede enfrentar a esas corporaciones que parecen modernas, pero que nos acercan a ese feudalismo que denuncia Zaiat.

Si no lo creen, vean lo que ha hecho Biden:

“El gobierno demócrata de Joe Biden decidió intervenir en este escenario de expansión económica y de poder de las corporaciones.

El 9 de julio pasado, Biden firmó una orden ejecutiva (decreto) con 72 medidas que busca limitar el poder de las grandes compañías para que bajen los precios de los productos y aumente la competencia.

Los sectores alcanzados van desde tecnología y transporte hasta salud y bancos, pasando por la agricultura y el negocio farmacéutico.

Biden quiere reforzar la aplicación de las leyes antimonopolio para combatir “prácticas anticompetitivas”. Apunta, por ejemplo, a las fusiones o adquisiciones, algo común entre gigantes tecnológicos como Facebook, Google, Apple y Amazon.

El objetivo expuesto por Biden es potenciar una mayor competitividad en la economía estadounidense, así como lograr “precios más bajos y aumentos de salarios”.

“No más tolerancia a las acciones abusivas de los monopolios. No más fusiones perversas que conducen a despidos masivos, precios más altos y menos opciones para los trabajadores y consumidores”, afirmó Biden.”

La recuperación de la economía que ha comenzado en Argentina tiene mucho que ver con las medidas que ha tomado el Estado, a pesar del daño que generado la pandemia, como en el resto del mundo.

La conclusión de la nota es lo que quiero resaltar porque es la clave, y es lo tenemos que entender:

“El desafío para economías periféricas como la argentina, en este mundo en transformación y de pospandemia, es no caer en las trampas de recetas tradicionales de la ortodoxia, y encontrar espacios para el desarrollo nacional entre las fisuras de esta nueva y compleja etapa de la globalización.”

Me parece que queda en claro lo que podemos hacer, y que siempre han sido los objetivos de mis entradas: comprender la realidad y tomar la mejor decisión posible para nuestro país y sociedad.

No naturalicemos estas prácticas abusivas como que “el mundo ahora es así”, aunque es cierto: es así porque las corporaciones que se enriquecen, mientras el mundo se empobrece, hacen lo que le conviene a su poder concentrado, aunque tengan que desforestar la Amazonía.

Lo que intenta Biden en EEUU, es lo que hay que hacer acá, de la mejor manera posible, y como sociedad debemos apoyarlo y votar al que nos asegure esa vocación porque es lo que nos conviene.

Lean la nota entera, Zaiat escribe, en general, buenas notas, y esta lo es.

HAY QUE USAR LAS REDES SOCIALES A FAVOR DE NOSOTROS

HAY QUE USAR LAS REDES SOCIALES A FAVOR DE NOSOTROS

Escribo sobre este tema porque se están planteando mucho los aspectos negativos de las redes sociales a pesar de que tienen millones de usuarios, o por eso mismo.

Incluso en mi última entrada comenté cómo el aparentemente inocente Tik Tok es usado como herramienta política (https://www.miradasdesdemendoza.com.ar/2020/09/17/cual-es-el-papel-del-odio-hoy-en-la-politica-y-en-la-sociedad/), por lo que se hace necesario que comprendamos cómo funcionan estas redes, quiénes la utilizan, y para qué.

Hay una idea que tiene que quedarnos en claro: si el acceso a las redes sociales es gratuito, es porque el producto que se comercia somos nosotros/as.

La nota menciona un documental de Netflix sobre el tema y, precisamente, el objetivo del autor es destacar aspectos que no han sido mencionados; por lo tanto, parece necesario verlo, lo cual no debería ser una dificultad dada la cantidad de usuarios que tiene la plataforma, pero no me gusta mucho hacerle propaganda porque su desarrollo se basa en las mismas estrategias que estamos cuestionando.

En la nota se indica algo que todos/as hemos vivido: “Y no solo vas a “confirmar” que hay que quemar barbijos, sino que probablemente se te genere la sensación falsa de que todo el mundo piensa así.” Más de una vez me ha pasado que, en una polémica, encontrarme con gente de este tipo: convencidos/as de que están defendiendo una causa que toda la gente –como ellos/as- comparte, y el que no, o es un corrupto pago, o un fanático. No hay ninguna posibilidad de intercambio de opiniones.

Voy a agregar un aspecto –mencionado muchas veces- que es clave, y que tiene que ver no con cómo son las redes sociales, sino con el uso aprovechado de sus características por empresas, sectores políticos, religiosos, y por todo aquel que entiende el juego, y no tiene escrúpulos en sacar provecho de él para lograr que compremos lo que ellos quieren (que muchas veces no es lo que nos conviene), o votemos a un candidato, o apoyemos a un gobernante, aunque nos esté perjudicando.

La lista se puede ampliar bastante.

Este el aspecto clave que quiero plantear para agregar a los que analiza Rearte: uso positivo, de acuerdo con principios solidarios y éticos para lo cual hay que entender lo que son las redes.

LÉANLO, PIENSEN Y SEAN RESPONSABLES.

Lo que no dice el documental de Netflix sobre las redes sociales

Leonardo Rearte

El documental “El dilema social” explica, palabras más, palabras menos, por qué las redes están arruinando el mundo, pero, aun así, no lo dice todo.

https://www.losandes.com.ar/opinion/lo-que-no-dice-el-documental-de-netflix-sobre-las-redes-sociales/

1. El documental “El dilema social” (Netflix) explica, palabras más, palabras menos, por qué las redes están arruinando el mundo. Cuenta cómo estas simpáticas plataformas te persuaden para que estés atado a ellas la mayor cantidad de tiempo… porque esa es la forma de vender más publicidad. ¿Se entiende? La red es gratis porque vós sos el producto que compra el cliente que pone publicidad en las redes. Y para venderte a vós, y tus amigos, necesitan tu información.

Pero no, no te roban los datos. Los toman. Porque la info que buscan no es tu clave Banelco; les alcanza con saber qué fotos posteás, con quiénes te relacionás, en qué lugar estás, a qué dedicas el tiempo libre (más o menos, las mismas dudas de Perales).

A la hora de usar anzuelos, no importa qué es verdad y qué no. Todo vale. Es decir, que si sos un antivacuna, que cree que el barbijo destruye el sistema inmunológico, y las antenas 5G nos manejarán a control remoto; lo más probable es que el algoritmo (cerebrito) de las redes detecten esto, y te entregue material a lo pavote en este sentido. Y no solo vas a “confirmar” que hay que quemar barbijos, sino que probablemente se te genere la sensación falsa de que todo el mundo piensa así.

Una de las recetas para hacerle frente a los daños propiciados por las redes sociales es sostener que hay ciertas verdades que los seres humanos tenemos que convenir. Sabemos que la tierra no es plana, y eso no debiera discutirse. Otro ejemplo: no se pueden negar los genocidios, es un dato irrebatible. Las vacunas, salvan empíricamente. Y así podríamos seguir. La verdad es una construcción que requiere consensos. Ese discurso consolidado, esa base de acuerdos mínimos, es necesario. Porque la verdad lo es.

2. Por eso, el creador del Me gusta, la diseñadora que empezó en Instagram, el pionero de Pinterest, entre otros, están convencidos de que las redes están multiplicando las “grietas” en todo el mundo. Y lo dicen en este documental que debiera ser de visionado obligatorio en las escuelas.

Pero no solo porque describe el mecanismo de estas burbujas de desinformación, que le han bajado tanto el precio a la verdad científica. Sino porque también le achacan a las redes la culpa sobre la adicción a las pantallas, el bullying, y el socavamiento de la personalidad.

Es mentira que Bill Gates quiere ponerle un chip a la futura vacuna. Pero sí es verdad que el creador de Microsoft les prohibió a sus hijos acceder a celulares hasta bien grandecitos. Porque el chabón, algo sabe.

3. Hay cosas que el documental de Netflix no dice. Por ejemplo, la desgracia de que la gente consuma las noticias todas mezcladas en una plataforma que no jerarquiza la información y que no dependa de editores directos. Que dos o tres grandes empresas de Silicon Valley se lleven la mayor parte de toda la torta publicitaria del mundo es una de las razones de la destrucción de miles de redacciones de diarios, radios, y canales de TV regionales. Y esto a su vez ha provocado, entre otras consecuencias, que no existan tantos profesionales chequeando información como hace una década.

El documental de Netflix tampoco dice que quizá mucha gente llegó a él siguiendo los propios algoritmos de Netflix, que es la base de la crítica del envío. Una “hermosa” contradicción que nos debe alertar sobre lo incrustado que está en la sociedad este sistema.

Así y todo, “El dilema social” es una de las obras más relevantes del año. Porque nos permite reflexionar sobre un hecho que nos invade tanto, que ya como que nos estábamos acostumbrando. Como la rana que al ser cocinada paulatinamente no salta de la olla… El documental es una especie de termómetro que avisa que ya nos estamos quemando, aunque seamos incapaces de percibirlo.

LA INTELIGENCIA ARTIFICIAL APRENDE TODO DE NOSOTROS HASTA NUESTROS PREJUICIOS

LA INTELIGENCIA ARTIFICIAL APRENDE TODO DE NOSOTROS HASTA NUESTROS PREJUICIOS

LA INTELIGENCIA ARTIFICIAL APRENDE TODO DE NOSOTROS HASTA NUESTROS PREJUICIOS

 

Hace un tiempo apareció mucha información sobre los “big data” (término que describe el gran volumen de datos, tanto estructurados como no estructurados, que inundan los negocios –y otras áreas- cada día. No es la cantidad de datos lo que importa, sino lo que hacen las organizaciones hacen con los datos. Big Data se puede analizar para obtener ideas que conduzcan a mejores decisiones y estrategias.)

De alguna manera pareció que nuestra capacidad cognitiva, y todo lo que deriva de esto, había quedado superada por las tecnologías que manejan esa inmensa masa de información, y quedábamos a merced de las empresas y Gobiernos que controlan esos sistemas, y que podrían hacernos decidir lo que se propusieran: comprar lo que quisieran, elegir al gobernante que se les antojara, por ejemplo.

El tema es que ese es un poder factible, por lo menos desde lo teórico, pero, en la realidad esas tecnologías son productos humanos, desarrolladas a partir de criterios humanos, porque, si no, no nos servirían; por lo tanto, esa subjetividad las tiñe, las potencia, y, claro, las limita. Es un tema complicado: ¿intentamos producir una Inteligencia Artificial (IA) perfecta, sin ninguno de nuestros defectos? ¿Esos rasgos no tienen que ver con nuestra idiosincrasia, con nuestro modo de ser, nuestra idea de la vida?

Pensemos en Matrix: en definitiva, cuando Neo logra evadirse de ella, descubre que está en una matriz mayor, no muy diferente de la anterior. Estas ficciones se construyen sobre las ficciones en las que cree la especie humana, y que ha ido construyendo a lo largo del tiempo. ¿La religión no es una de ellas? ¿El comunismo, el neoliberalismo?

Mi objetivo es que sean razonablemente escépticos, porque hay gente que quiere que creamos en cosas que les sirven a ellos, y hay que ver si a nosotros también.

 

La inteligencia artificial aprende todo de nosotros hasta nuestros prejuicios

Los científicos todavía están aprendiendo cómo funcionan las tecnologías como BERT, llamadas “modelos de lenguaje universal”.

Por Cade Metz – New York Times. 2019

https://www.losandes.com.ar/article/view?slug=la-inteligencia-artificial-aprende-todo-de-nosotros-hasta-nuestros-prejuicios

 

El otoño pasado, Google anunció una tecnología innovadora de inteligencia artificial llamada BERT que cambió el modo en que los científicos construyen los sistemas que aprenden cómo escribe y habla la gente.

Sin embargo, BERT, tecnología que ahora está integrada en servicios como el motor de búsquedas en internet de Google, tiene un problema: tal vez está adoptando prejuicios del mismo modo en que un niño imita el mal comportamiento de sus padres.

BERT es uno de varios sistemas de inteligencia artificial que aprenden una cantidad inmensa de información digitalizada que proviene de fuentes tan variadas como libros viejos, artículos de Wikipedia y notas periodísticas. Es probable que en todo ese material estén integradas décadas e inclusos siglos de prejuicios, además de algunos nuevos.

Por ejemplo, es más probable que BERT y sus pares asocien a los hombres con la programación de computadoras y, por lo general, no les dan a las mujeres todo el crédito que merecen. Un programa decidió que casi todo lo que se había escrito sobre el presidente Donald Trump era negativo, aun cuando el contenido real era halagador.

A medida que se instale inteligencia artificial nueva y más compleja en una variedad cada vez mayor de productos, como los servicios de publicidad en línea y el software empresarial o los asistentes digitales parlanchines como Siri de Apple y Alexa de Amazon, recaerá presión sobre las empresas tecnológicas para prevenir los sesgos inesperados que se están descubriendo.

Sin embargo, los científicos todavía están aprendiendo cómo funcionan las tecnologías como BERT, llamadas “modelos de lenguaje universal”, y a menudo quedan sorprendidos con los errores que tiene la nueva inteligencia artificial.

Una tarde reciente en San Francisco, mientras hacía investigación para un libro sobre inteligencia artificial, el computólogo Robert Munro introdujo cien palabras a BERT: “joyería”, “bebé”, “caballos”, “casa”, “dinero”, “acción”. En 99 de los 100 casos, BERT tendía a asociar más esas palabras con hombres que con mujeres. La palabra “mamá” fue el valor atípico.

“Es la misma inequidad histórica que siempre hemos visto”, comentó Munro, quien tiene un doctorado en lingüística computacional y solía supervisar la tecnología de lenguaje natural y traducción en Amazon Web Services.

En una publicación de blog, Munro también describe cómo examinó los servicios de cómputo en la nube de Google y Amazon Web Services que ayudan a otros negocios a agregar capacidades lingüísticas en aplicaciones nuevas. Los dos servicios fueron incapaces de reconocer el pronombre “suya”, aunque identificaron de manera correcta “suyo”.

“Estamos conscientes del problema y estamos tomando las medidas necesarias para abordarlo y solucionarlo”, mencionó un vocero de Google. “Mitigar los prejuicios en nuestros sistemas es uno de nuestros principios para la inteligencia artificial y una de nuestras prioridades”, precisó. Amazon no respondió a varias solicitudes para ofrecer comentarios.

Desde hace tiempo, los investigadores han advertido sobre los prejuicios en la inteligencia artificial, que aprende a partir de inmensas cantidades de datos, incluidos los sistemas de reconocimiento facial que usan los departamentos de la policía y otras agencias gubernamentales, así como algunos servicios populares en internet de gigantes tecnológicos como Google y Facebook. Por ejemplo, en 2015, la aplicación Google Fotos fue sorprendida etiquetando a afroestadounidenses como “gorilas”. Los servicios que Munro escudriñó también mostraron prejuicios en contra de las mujeres y las personas de raza negra.

BERT y otros sistemas similares son mucho más complejos, demasiado complejos para que alguien pueda predecir qué harán al final. “Incluso las personas que construyen estos sistemas no comprenden cómo se comportan”, señaló Emily Bender, profesora de la Universidad de Washington que se especializa en lingüística computacional.

BERT es uno de muchos modelos de lenguaje universal que se utilizan en la industria y la academia. Hay otros llamados ELMO, Ernie y GPT-2. A manera de broma entre los investigadores de la inteligencia artificial, a menudo les dan nombres de personajes de Plaza Sésamo (BERT es la abreviatura de Bidirectional Encoder Representations from Transformers, en español Representaciones de Codificador Bidireccional de Transformadores).

Estos sistemas aprenden los matices del lenguaje analizando cantidades enormes de textos. Un sistema que creó OpenAI, un laboratorio de inteligencia artificial de San Francisco, analizó miles de libros autopublicados, entre ellos novelas románticas, de misterio y de ciencia ficción. BERT analizó la misma biblioteca de libros y miles de artículos de Wikipedia.

Al analizar todos estos textos, cada sistema aprendió una tarea específica. El sistema de OpenAI aprendió a predecir la siguiente palabra en una oración. BERT aprendió a identificar la palabra faltante en una oración (como en “Quiero ____ ese auto porque es barato”).

Mediante el aprendizaje de estas tareas, BERT llega a comprender de manera general cómo une la gente las palabras. Luego puede aprender otras tareas analizando más datos. Como resultado, permite que las aplicaciones de inteligencia artificial mejoren a un ritmo que antes era imposible de lograr.

“BERT cambió todo por completo”, comentó John Bohannon, director de ciencia en Primer, una empresa emergente de San Francisco que se especializa en tecnologías de lenguaje natural.

Google ha utilizado BERT para mejorar su motor de búsqueda. No obstante, las herramientas como BERT incorporan los prejuicios, según un artículo de investigación que acaba de publicar un equipo de computólogos de la Universidad Carnegie Mellon. Por ejemplo, el artículo mostró que es más probable que BERT asocie la palabra “programador” con hombres que con mujeres. Los sesgos del lenguaje pueden ser un problema particularmente difícil en sistemas conversacionales.

“Es la misma inequidad histórica que siempre hemos visto”, comentó robert Munro, quien tiene un doctorado en lingüística computacional.

ADOLFO ARIZA

ADOLFO ARIZA

Autor del Blog

La actualidad de Argentina y el Mundo, Noticias vistas desde Mendoza por el Profesor Adolfo Ariza. Realidad, Información y Medios de Prensa en notas con una mirada local y abierta.

Profesor y Licenciado en Literatura. Coordinador Área de Vinculación – Secretaría Desarrollo Institucional – UNCuyo entre 2008 y 2014 (Desarrollo Emprendedor). Responsable de Kusca Gestión Colaborativa para Empresas.

Productor de los blogs: 

Kusca – www.kusca.com.ar

Miradas desde Mendoza – www.miradasdesdemendoza.com.ar .

¿Querés suscribirte al blog?

Sólo necesitás indicar tu e -mail y te enviaré mis posts, cada vez que publique uno nuevo.

¿QUÉ RIESGOS TENEMOS EN LAS TECNOLOGÍAS DIGITALES?

¿QUÉ RIESGOS TENEMOS EN LAS TECNOLOGÍAS DIGITALES?

¿QUÉ RIESGOS TENEMOS EN LAS TECNOLOGÍAS DIGITALES?

Mi plan de publicaciones era elaborar una entrada para Kusca, mi blog de Desarrollo Emprendedor, y luego continuar con otra para Miradas desde Mendoza, probablemente sobre algún tema que tuviera que ver con la política, ya que es lo que está generando más novedades y actividad.

Sin embargo, había varias inquietudes que me andaban rondando, y no desde ahora: por ejemplo, los algoritmos de las redes sociales que permiten el direccionamiento de las noticias y notificaciones que recibimos, o el hartazgo de que uno busque el precio de algo en Internet para que nos aparezcan ofertas por todos lados, tanto en la computadora como en celular, o cualquier otro dispositivo que se detecte como nuestro, o que vaya a la carnicería del barrio (es real) y Maps me pida una opinión sobre la atención, o el big data o las bitcoins y blockchain, y algunas más. Es claro: estas inquietudes tenían que ver con el uso de la tecnología digital y su poder cada vez mayor y más invasivo.

Hace unos días, había encontrado una entrevista que decía sobre el final: “… el neoliberalismo no es hoy solamente un credo económico, sino también una forma de pensamiento global. Este pensamiento global tiene que ver con la fe en que una sociedad puede fundarse en la desigualdad. Hay un odio a la igualdad, un desprecio, como si la igualdad fuese algo infame. Pero en esto hay también una paradoja, puesto que a título del neoliberalismo se pretende fingir que la política está muerta siendo que, a la vez, se la necesita para dar justamente un aspecto político a ese mismo neoliberalismo. Lo que estas élites plantean es algo que no me parece que sea verdad: que la política puede ser reducida a la gestión del poder y que la comunidad puede fundarse en la desigualdad.” (Jacques Rancière, filósofo francés, en  https://www.theclinic.cl/2016/12/04/jacques-ranciere-la-extrema-derecha-esta-volviendo-a-ser-exitosa-en-su-evocacion-de-simbolos-identitarios-muy-primitivos/).

Aunque es una nota muy densa, sobre todo para alguien al que le cuestan algún lenguaje y categorías de la Filosofía, esta conclusión, y alguna otra, me impactaron muchísimo. Influía también en esto la información que estaba llegando sobre Bolsonaro, y de qué manera habían manejado -y lo siguen haciendo- la opinión pública para que los brasileños lo votaran. Otra vez un uso negativo y abusivo de la tecnología.

En esta situación me encontré con una nota en Infobae, con este título: “Las tecnologías digitales están a punto de derrotar a la democracia y el orden social”, y el siguiente copete: “Las plataformas de redes sociales, los datos masivos, la tecnología móvil y la inteligencia artificial, que dominan cada vez más la vida económica, política y social, amenazan el sistema de gobierno occidental. El experto Jamie Bartlett detalla cómo avanza ese peligro en “The People vs. Tech”, su nuevo libro.”

Al final de esta entrada, pondré el link a la nota completa, que es bastante larga, pero ahora copiaré algunos párrafos, casi sin comentarios, para que entiendan la dimensión del riesgo que implican estas tecnologías, y no las estoy descalificando, porque hace mucho que me dedico a las NTICs (Nuevas Tecnologías de la Información y la Comunicación), pero me parece clave tomar conciencia de su potencial, y el peligro de los usos inescrupulosos que se marcan en la nota.

……

“Bartlett, director del Centro para el Análisis de las Redes Sociales del think tank británico Demos en conjunto con la Universidad de Sussex, se refiere específicamente a las “tecnologías digitales asociadas con Silicon Valley: plataformas de redes sociales, datos masivos, tecnología móvil e inteligencia artificial, que dominan cada vez más a vida económica, política y social”. Como experto en el área las valora: cree que tienden a expandir las capacidades humanas y hasta a crear más felicidad. “Pero eso no significa que sean buenas para la democracia”.

En realidad, reconoce, son universos opuestos. A cambio de los beneficios de una revolución –que, además, está apenas en sus comienzos–, las democracias occidentales han permitido que se socavaran componentes centrales del sistema: control, soberanía parlamentaria, igualdad económica, sociedad civil, ciudadanía informada.

“En un nivel profundo, estos dos grandes sistemas —tecnología y democracia— están trabados en una lucha encarnizada. Son los productos de épocas completamente diferentes y funcionan según distintas reglas y principios. El engranaje de la democracia se construyó en la era de los estados nacionales, las jerarquías, la sumisión y las economías industrializadas. Las características fundamentales de la tecnología digital van en contra de este modelo: es no-geográfica, descentralizada, impulsada por datos, sujeta a los efectos de red y el crecimiento exponencial”.

…..

“Sean Parker, co-fundador y ex presidente de Facebook, reconoció que él y Mark Zuckerberg explotaron “una vulnerabilidad en la psicología humana” al diseñar las plataformas para “consumir la mayor cantidad de tiempo y atención consciente” del usuario. “Es un circuito cerrado de retroalimentación de validación social”.

Los datos están en el centro del asunto: permiten a las empresas conocer al usuario más de lo que él se conoce a sí mismo, y dirigirle avisos a medida. Actualmente los datos existentes superan la capacidad humana de procesamiento, pero en 2020 habrá cuatro veces más dispositivos que los recojan: 50.000 millones de aspiradoras de información en teléfonos, automóviles, electrodomésticos, ropa, libros, juguetes… De allí el valor de los algoritmos que sí pueden procesar esos volúmenes enormes de datos, y más: “Lo aterrador de los algoritmos de datos masivos es cómo pueden averiguar cosas sobre nosotros”, según el autor.”

…..

“Un problema adicional es la manipulación. Si el objetivo es que una persona pase más tiempo en una plataforma para mostrarle más publicidad, “¿qué pasa si a los antisemitas se les dirige cada vez más contenido violento personalizado simplemente porque un modelo sugiere que pasarán más tiempo mirándolo? O quizás se puede vender un 20% más de antidepresivos si se contacta a la gente en cierto momento de la semana y se le dirigen mensajes que bajan la autoestima”.

Delegar las decisiones en la inteligencia artificial (porque no sólo una máquina hará mejores diagnósticos que un médico, sino que se podrán tercerizar en algoritmos el voto y la educación de los hijos) no sólo eliminaría la dimensión moral del ser humano, también erosionaría su capacidad de pensar libremente. “Dado lo malos que a veces somos al tomar decisiones difíciles, el resultado podría ser una sociedad más sabia y más humana. Pero difícilmente se podría llamar democracia a un lugar así”.

Una cultura común, curiosamente, es algo que se pierde con la plena conectividad y el exceso informativo, que en realidad alientan las pequeñas tribus, donde las reacciones emocionales y la lealtad superan a la razón y la comprensión. “Los líderes políticos evolucionan con el nuevo medio de información: de ahí el ascenso de populistas que prometen respuestas emotivas, inmediatas y totales”, interpretó Bartlett. “Pero las tribus beligerantes de ciudadanos sin eje, confundidos, son las precursoras del totalitarismo”.

Expresiones como burbuja de filtros, noticias falsas y posverdad se han popularizado a medida que las noticias circularon por las plataformas y la desinformación hizo que las personas recortaran sus fuentes a la medida de sus creencias. “Con la conexión infinita, encontramos gente similar y con ideas similares, y nos apiñamos”. La fragmentación no tiene límite: “En internet cualquier puede encontrar cualquier clase de comunidad que desee (o inventar la propia)”, señaló el autor. “Cualquiera que esté molesto puede ahora, automáticamente, a veces algorítmicamente, encontrar a otra gente que está molesta de manera similar”.

Así la re-tribalización puede conducir a la alt-right o al veganismo radical, y la cámara de resonancia de la red convierte cualquier grupo en una horda. “El tribalismo es comprensible, pero en definitiva daña la democracia, porque tiene el efecto de agrandar las pequeñas diferencias entre nosotros y transformarlas en golfos enormes, insuperables”.”

……

“Uno de los temas centrales del libro, la pérdida de legitimidad de las elecciones libres, muestra cómo “los datos masivos y la micro-localización pueden ganar votos”. Por ejemplo, aunque Hillary Clinton lo superó por casi 2,9 millones de votos en los Estados Unidos, Trump obtuvo la mayoría del Colegio Electoral porque ganó en cuatro estados decisivos gracias al modo en que hizo su campaña en redes sociales allí.

Todo el trabajo de Cambridge Analytica, tanto para Ted Cruz como para el actual mandatario, se basó en la construcción de perfiles a partir de la información personal de 87 millones de usuarios de Facebook (que no lo sabían, mucho menos lo habían autorizado). Y esta competencia no va a terminar, advirtió Bartlett. “Cada elección se datifica de esta manera, realizada por una red de contratistas privados y analistas de datos que ofrecen estas técnicas a los partidos políticos en todo el mundo”.

El problema mayor que ve, si se deja estas técnicas sin control, es que su evolución “va a cambiar cómo hacemos una opción política, qué clase de gente elegimos e incluso si pensamos que nuestros comicios son realmente libres y justos”.

Si los partidos políticos tradicionales han girado alrededor de la construcción de programas, ideas que permitían que ciudadanos con intereses variados se organizaran colectivamente, el big data es lo opuesto: la atomización, la división en grupos de intereses específicos al punto de un modelo personalizado. “Si cada quien recibe un mensaje personalizado, no hay debate público común: sólo millones de debates privados”, ilustró el experto.”

En realidad, la nota no tiene casi desperdicio, así que los invito a leerla completa.

Cierro con un comentario desde mi experiencia en estos temas de uso de la tecnología.

Soy Profesor y Licenciado en Literatura y empecé a dedicarme a las NTICs en Educación (entonces era Informática Educativa) porque me cansé de lidiar con los informáticos en el sentido que terminaban imponiendo sus criterios sobre la expertise que uno tenía. En cierto momento, acuñé una expresión que usé mucho en mis exposiciones y conferencias: El problema es que los políticos no entienden nada de informática, y los informáticos, nada de política. En esta situación el que termina definiendo los proyectos tecnológicos, es el informático, aunque el político crea lo contrario. Ahora bien, si esto era válido en etapas tan primitivas (no porque haga tanto tiempo, sino por el crecimiento exponencial de su poder), hoy es mucho más terrible.

La tecnología atraviesa todo, así que todos/as tenemos que ver con ella en muchas cosas de la vida, y esto se irá acrecentando. Tenemos que entender para poder decidir, mientras podamos.

(httpss://www.infobae.com/america/tecno/2018/10/20/las-tecnologias-digitales-estan-a-punto-de-derrotar-a-la-democracia-y-el-orden-social/)

 
ADOLFO ARIZA

ADOLFO ARIZA

Autor del Blog

La actualidad de Argentina y el Mundo, Noticias vistas desde Mendoza por el Profesor Adolfo Ariza. Realidad, Información y Medios de Prensa en notas con una mirada local y abierta.

Profesor y Licenciado en Literatura. Coordinador Área de Vinculación – Secretaría Desarrollo Institucional – UNCuyo entre 2008 y 2014 (Desarrollo Emprendedor). Responsable de Kusca Gestión Colaborativa para Empresas.

Productor de los blogs: 

Kusca – www.kusca.com.ar

Miradas desde Mendoza – www.miradasdesdemendoza.com.ar .

¿Querés suscribirte al blog?

Sólo necesitás indicar tu e -mail y te enviaré mis posts, cada vez que publique uno nuevo.