martes, 2 de mayo de 2023

IA, un futuro inquietante

Los sofistas griegos tenían una inteligencia muy creativa. A partir de un fundamento infundado eran hábiles para crear una construcción lógica prodigiosa, llena de quiebros sutiles entre el sí y el no, con lo que siempre encontraban un resquicio sorprendente para evadirse de los enigmas más oscuros y ofrecer una respuesta razonable. Con la inteligencia artificial parece que ocurre lo mismo o algo semejante; pues las máquinas han iniciado una revolución silenciosa que, por lo visto, presuntamente cambiará nuestras vidas. Y es que hasta hace unos años, la IA solamente consistía en su capacidad para realizar una serie de disposiciones concretas, por ejemplo, que la máquina enunciara una serie de oraciones. Ahora, con el aprendizaje profundo; es decir, con el adiestramiento automático basado en redes neuronales artificiales, lo que se hace es decirle a la máquina que cuando lea o vea las palabras “La nieve es…” sepa decir a continuación “blanca”. Se le enseña a predecir esa palabra mostrándole miles o millones de patrones. Y de esta manera se va modelando el sistema con un algoritmo automático hasta que sea apto para elaborar frases con sentido. El prodigio consiste en que cuando se le da una entrada que no forma parte de las plantillas y paradigmas que se le ha enseñado y ha analizado, la IA generaliza y es suficientemente competente para elaborar una extrapolación razonable. O sea, salvando las distancias, utilizan la misma coyuntura y solución que los filósofos retóricos griegos.

La Mañana 02.05.2023

En verdad, tal vez, lo que estamos haciendo es crear falsos mundos y llegará un día en el que cada vez será más difícil poder distinguir lo artificial de lo real, como de facto casi ya sucede con el ingenio en línea gratuito ChatGPT, un modelo de chatbot de inteligencia artificial llevado a cabo en 2022 por OpenAI que se especializa en el diálogo. En este marco, hasta hace pocos años, vivíamos un tiempo en el que internet era solo una herramienta para acceder a muchísima información y el móvil, un teléfono para llamar desde cualquier sitio. Después algunos dijeron que, además de facilitarnos la vida, estas innovaciones tecnológicas nos conducirían a una sociedad más libre, descentralizada, justa, y mejor informada. Pero un día, al levantar la vista de las pantallas, descubrimos que la realidad es casi todo lo contrario, que nos hallamos en un mundo dominado por compañías descomunales, más polarizado que nunca, donde la privacidad está seriamente amenazada e inventos tan fascinantes como la citada inteligencia artificial nos plantea desafíos existenciales.

 

Y es que estamos viviendo en la era digital y la economía se ha convertido en un juego de gigantes donde los ganadores se lo llevan todo y los perdedores, que somos la inmensa mayoría de la población, nos quedamos sin nada o casi nada. Y, además, cohabitamos en una hiperconectada vida en la que unos pocos dominan y manejan a su antojo los algoritmos, las redes sociales, la robotización, la inteligencia artificial, las criptomonedas, los medios de comunicación, etc., y otros muchos contemplamos con perplejidad unos avances tecnológicos que difícilmente comprendemos. Y que están provocando en la sociedad la quiebra de los consensos básicos, debido a los numerosos y profundos cambios que el desarrollo científico-técnico está produciendo en estos últimos tiempos; lo cual, unido al fuerte ritmo de su avance, está transformando vertiginosamente nuestra sociedad.

 

Y ante estos continuos y apremiantes retos que nos están llegando, cabe preguntarse, ¿sabemos verdaderamente lo que hacemos con la IA? ¿Está regulada su aplicación mediante algún protocolo internacional de seguridad? De momento creo que no. Y este hecho, según algunos expertos en estas avanzadas tecnologías, puede llegar a generar un grave problema para el futuro de la humanidad. A este respecto, el ingeniero en computadoras y programador Steve Wozniak y el experto en IA Eliezer Shlomo Yudkowsky, ambos estadounidenses, en una carta abierta publicada recientemente en la revista Time, bajo el título “Pausar los desarrollos de IA no es suficiente” han alertado del extraordinario peligro que supone y acarrea su perfeccionamiento y progreso, debido a que las herramientas de la IA han adquirido tal nivel de perfeccionamiento que actualmente están siendo competitivas con los humanos y en un próximo futuro no es descartable que crucen el umbral de nuestras capacidades, ignorándose cómo actuarán si este hecho llegara a ocurrir.

 

En todo caso, si los  filósofos sofistas usaban la herramienta de la retórica como método para transmitir el saber, la IA desvela, como una de las líneas del pensamiento dominante, la fantasía de las bondades de la tecnología; es decir, la idea de que la inteligencia artificial va a ser capaz de administrar todas las cosas del mundo. No obstante, creo que tener la percepción de que el progreso científico y tecnológico puede reemplazar el progreso ético, es un mito peligroso que puede llevarnos a la posibilidad de la autodestrucción de nuestra especie, puesto que las máquinas no tienen conciencia; al menos, de momento. Es por ello, que la primera obligación respecto a la IA es desconfiar de ella; sobre todo, porque la inteligencia artificial no cambia lo que hacemos, sino que puede llegar a modificar la esencia de lo que somos.

 

26 comentarios:

  1. Ayer escuché la noticia en el TN. Espero que no lleguemos a conocerlo, al final acabaremos robotitos del todo. Ciencia ficción hecha realidad.

    Magda Sellarés

    ResponderEliminar
  2. Tienes toda la razón, a la larga estaremos dominados por la inteligencia artificial. Una pena que los humanos se queden en segunda fase.

    Antonio

    ResponderEliminar
  3. La IA, es una gran complicación para las mentes forjadas en el S .XX y estamos expectantes a ver que sucede.

    Pilar

    ResponderEliminar
  4. Juan Antonio, permíteme decirte que vas retrasado. Hace un par de días por TV informaban que habían inventado un artilugio para leer la mente humana. ¡¡Que horror!!, pensé.
    A mi edad todos estos inventos me cuesta de asimilarlos. Si el móvil me supera, tengo que pedir ayuda con demasiada frecuencia. La verdad, estos avances no son buenos para la humanidad. Se tiene que legislar muy rápido porque los avances van con velocidad vertiginosa. Para algunas cosas son beneficiosas, no lo niego,para otras, creo, nefastas.

    Encarna

    ResponderEliminar
  5. ¡Hola!, te han sentado muy bien las vacaciones, excelente artículo sobre la IA, tan bien escrito que se puede decir que es una copia de un discurso de un filósofo sofista. Personalmente ha sido un placer su lectura, pero me quedo con el párrafo final, refleja lo que pienso.

    "Es por ello, que la primera obligación respecto a la IA es desconfiar de ella; sobre todo, porque la inteligencia artificial no cambia lo que hacemos, sino que puede llegar a modificar la esencia de lo que somos."
    Un abrazo.

    Santiago

    ResponderEliminar
  6. Buenas tardes, buen artículo tío e interesante.

    Nacho

    ResponderEliminar
  7. Me maravilla como te cunde el tiempo Disfrutas y trabajas
    Da un poco de miedo entrar en la fase IA. Me pillará en fase muy avanzada La edad me traicionará,si ahora confundo espacios y relatos.

    Anna

    ResponderEliminar
  8. Muy bien, lo apuntas perfectamente. El problema no está tanto en la IA sino en el uso perverso o fraudulento que de la misma pueda hacerse. Te adjunto un pequeño artículo de La Vanguardia de hoy, precisamente, del "padrino" de la IA que apunta el uso perverso que de la misma puede hacerse. La historia se repite desde la misma antigüedad, todo avance científico se ha aprovechado para hacer un uso para el cual no se inventó, ahí tenemos el mismo Nobel con su dinamita. La idea de las perversas criptomonedas es genial, supone una descentralización financiera que puede operar al margen de los bancos, ¿que ocurre?, que se ha hecho un uso perverso de esa idea. Ahí está el peligro de la IA.

    Un abrazo.

    Ramón

    ResponderEliminar
  9. Buen trabajo, como siempre. Peligro.
    De todos modos siempre seremos manejados. Hasta que un día uno de nuestros dioses diga: Hasta aquí habéis llegado, mosquitos.

    Pepe

    ResponderEliminar
  10. Hola J.A.
    Quiero decirte que, respetando y a la vez temiendo todo lo que expresas en tu excelente artículo, lo que me preocupa más es que, según noticias que he escuchado, "en nada y ya", nuestra mente será leída.
    En principio, dicen…, solo se utilizará en enfermos con Alzheimer.
    Si así no fuere (como pienso) y se eludiera la ética, entonces sí que seríamos simples elementos manejables. Si mi pensamiento ya no puede ser libre y desconocido, prefiero no estar.

    Un saludo

    Magda D.

    ResponderEliminar
  11. Pues sí, la IA es un arma tan potente y prometedora como peligrosa, pero el peligro no está en el desarrollo de la ciencia, sino en el retroceso o carencia de la educación en humanidades, en valores.
    Armas potentísimas en manos de gente sin conciencia... ¡Que Dios nos coja confesados!.
    Un abrazo.
    Antonio

    ResponderEliminar
  12. ¡Hola! Juan Antonio,
    Comparto todas tus inquietudes y además considero que llegamos tarde para un ejercicio de autodefensa ante el avance de la IA. Recientemente uno de los expertos pioneros en IA, Geoffrey Hinton, ha mostrado públicamente su arrepentimiento por ayudar en la creación de la técnica 'deep learning' y ha descrito sus posibilidades, no solo como inquietantes sino como 'aterradoras'.
    Bueno, ¿y ahora, qué? Pues ahora tal vez haya unas claves que nos ayuden a despejar dudas sobre lo que puede acontecer en un futuro no lejano:
    • La verdad: no seremos capaces de distinguir lo verdadero de lo falso – Esta advertencia de entrada, la hace Hinton.
    • Datos y control: el avance del denominado 'capitalismo de vigilancia', se debe a la entrega de datos personales mediante la actividad conectada y en cantidades ingentes a empresas privadas que hoy acumulan el control y poseen algoritmos cada vez más predictivos sobre nuestras reacciones.
    La consecuencia de todo esto es que pueden derivarse acciones nefastas para la humanidad debidas a que la IA alcance la capacidad de crear objetivos secundarios, propios y no controlados.
    Y hasta aquí podemos leer.

    Un abrazo,
    Miguel Ángel

    ResponderEliminar
  13. Buenas tardes Juan Antonio:
    Me quedo con este texto entrecomillado. Estoy de acuerdo en su contenido, todo lo demás me supera. Tú le has dedicado tiempo.
    “La primera obligación respecto a la IA es desconfiar de ella; sobre todo, porque la inteligencia artificial no cambia lo que hacemos, sino que puede llegar a modificar la esencia de lo que somos.”
    Un abrazo.
    Laureano

    ResponderEliminar
  14. Si. Totalment d'acord!! ¿És el final de l'espècie humana?

    Joana

    ResponderEliminar
  15. buen artículo ya sabes que hay varios países que han prohibido el chat GPT, el primero en Europa es Italia el segundo que lo está mirando es España.
    En tú artículo mencionas a los Sofistas Griegos, yo creo que eran muy inteligentes y humanos. De eso hace miles de años. Ahora bien el ser humano tiene que vigilar con la IA, ya que esto puede destruir nuestra existencia en el planeta.

    Alberto

    ResponderEliminar
  16. Excelente artículo, describes muy bien los problemas que nos esperan. Gracias.

    Marisa

    ResponderEliminar
  17. Gràcies una vegada més per la quantitat d'informació que ens regales.
    M'agrada especialment la comparació entre sofistes i IA
    Adiestramiento automàtico, aprendizaje profundo.....mare meva, quanta feina per arribar a copsar-hi les seves conseqüències.

    Mati

    ResponderEliminar
  18. Un artículo interesante que me ha ayuda a reflexionar sobre el avance de I A. Me inquieta el futuro de nuestros nietos
    Un abrazo
    Pilar

    ResponderEliminar
  19. Me parece un gran artículo. Y destaco el principio y el final: la comparación de la IA con los sofistas, y que no cambia lo que hacemos, pero sí puede cambiar lo que somos.
    Enhorabuena y un abrazo.
    Jaime

    ResponderEliminar
  20. ¡Hola! Juan Antonio, en este artículo te enfrentas con los nuevos logros de le tecnología que nos superan ampliamente, me considero incapaz de poder pontificar sobre la ya realidad actual de la I.A.
    A través del ChatGPT,he llegado a observar un poco su comportamiento, y excede en mucho a los procesos digitales, desarrollados durante este milenio, ya que su capacidad de confeccionar un texto sin fisuras tanto en su contenido como su continente, es ágil e impecable, pudiendo competir sus razonamientos con lo expuesto por los mejores intelectuales, creo que realmente los humanos vamos a ser prescindibles, debido precisamente a nuestras imprecisiones y fallos, y como siempre la capacidad de regular y delimitar es querer poner puertas al campo, ya que como toda revolución tecnológica se desarrolla independientemente de los legisladores y la voluntad de la mayoría de las personas, realmente la civilización creo que esta perdiendo la partida, en cierto modo y como reconoce el filosofo e historiador Yuval Noah Harari, ya enuncia que estamos ante el posible fin de la humanidad
    .
    Debemos consolarnos Juan Antonio, al menos nosotros la hemos conocido con sus virtudes y sus tremendos defectos.
    Un cordial saludo.
    Jordi

    ResponderEliminar
  21. Bon dia. Realmente es inquietante el tema de la Inteligencia Artificial. Si bien no es tan inteligente como parece, al menos de momento, si que influirá en saber cada vez con más dificultad, discernir entre la verdad y lo inventado. Solo falta añadir la IA a las redes sociales. Por ejemplo, un tema que se está viralizando es el control del clima. Incluso el otro día un diputado planteó una pregunta en el Congreso sobre las famosas fumigaciones y las estelas de los aviones. A fuerza de repetir hay mucha gente que se lo cree, incluso gente del campo. Cualquier día se planteará si la Tierra es plana o cuadrada. Cada día somos más americanos.

    Manel

    ResponderEliminar
  22. Buenas noches Juan Antonio, el tema que has elegido para tú artículo de hoy y que le has puesto por título_____
    IA, un futuro inquietante
    Es muy inquietante ciertamente, en las últimas semanas son muchas las tertulias radiofónicas a las que estoy enganchada que debaten el tema de la IA, de forma continuada. No sé a dónde nos puede llevar este mayúsculo disparate universal. Como tú bien dices la IA, tiene más peligro que ventajas por el poder que tiene en unas manos sin conciencia. Agradezco las molestias que has tenido para que yo pueda leer este interesantísimo artículo y que sinceramente te agradezco y felicito por el trabajo. Un saludo.

    Pili

    ResponderEliminar
  23. Estupendo el artículo sobre la IA. El tema es muy inquietante y la confrontación tecnología y ética es la clave. En ese campo y en otros muchos.

    Rosa

    ResponderEliminar
  24. Gracias, Juan Antonio. Me ha gustado el artículo.

    Un abrazo

    Jaume

    ResponderEliminar
  25. Muy bueno y real pero da un poco de susto . Hace meses que vamos con el tema .

    Carmen

    ResponderEliminar
  26. Hola, Juan Antonio: Nada que objetar a lo que dices en el artículo; es lo que ya hemos oído en intervenciones de gente conocedora del asunto.
    Lo que me indigna es el cinismo de las personas que trabajan en el desarrollo de la IA y piden que se les regule, que intervengan las autoridades para que no cometan excesos.
    Tratan el asunto como si de un combate de boxeo se tratara en el que dos personas luchan ateniéndose a un reglamento. Si ellos saben que el desarrollo de esas técnicas puede ser perjudicial para la humanidad por qué lo siguen desarrollando. Se comportan como el matón que pide a la concurrencia que le mira en la pelea que lo contengan porque si no matará al otro, porque está muy loco y rabioso. Da la sensación de que han traspasado la barrera de lo que es la humanidad y de las normas éticas que la rigen.
    Creo que los científicos saben cómo clonar seres vivos pero no lo hacen; al menos que se sepa. Y ellos, los de la IA, tienen que pedir a alguien, en este caso a las autoridades, que les detengan. ¡ Vaya tontería! No será la primera vez que las reglas se saltan a la torera. Lo que te digo : cinismo a la altura de sus inteligencias

    Un abrazo
    Merche

    ResponderEliminar

Gracias por tus comentarios.