El 9 de diciembre la Unión Europea daba el primer paso para la regulación de la Inteligencia Artificial (IA) con el acuerdo entre la Eurocámara y el Consejo. El acuerdo está aún por ratificar en el Parlamento Europeo y el Consejo de la UE, empezando a aplicarse en unos 2 años.
El objetivo manifiesto de la nueva ley es la protección de los derechos fundamentales de los usuarios y su seguridad, frente al abuso de las herramientas de IA, prohibiendo por ejemplo, los controles biométricos basados en raza o género. También se limita el uso de cámaras de reconocimiento facial en lugares públicos, y se regulará el uso de ChatGPT y otras plataformas comerciales de IA.
Esta regulación parece necesaria –ya veremos si acertada o suficiente– dada la tremenda influencia que va a tener el uso de esta tecnología sobre la humanidad en las próximas décadas. Pero EEUU o China no asumen ese tipo de regulaciones y puede que el camino que inicia la UE aliente la creación de acuerdos y leyes internacionales sobre el uso de la IA o puede, simplemente, que Europa quede fuera de la carrera tecnológica.
Desde 2022 ya tenemos IA en todo nuestro alrededor, no solo en las plataformas como ChatGPT, sino también cuando recibimos un anuncio, ponemos un mensaje o hacemos una búsqueda. En estos casos una «pequeña inteligencia» almacena, busca y analiza nuestro historial de internet: los mensajes, los «me gusta», nuestras fotos, y otro material informativo.
Cada vez que una aplicación te pide permiso para usar tu agenda o tu cámara, te está pidiendo que abras una puerta en tu vida privada. Es por ello que no debemos olvidar que nuestros datos son mercancía. Luego el sistema toma decisiones para ofrecernos productos, música u otro contenido personalizado, y volviendo a considerar tus reacciones, que suma a tu historial y al cabo de los años, te conoce mejor que tu familia. Tu privacidad ha sido violentada.
Pero no sólo se pone en peligro la seguridad. La veracidad también queda cuestionada, puesto que la facilidad con que la IA es capaz de crear imágenes o vídeos o imitar voces, nos obliga a prestar especial atención ante una información cualquiera, pues nuestros sentidos son fáciles de engañar.
Otro efecto no deseado es la falta de diversidad: La IA trabaja con nuestros datos de usuario y tiende a repetirse. Podemos acabar escuchando siempre la misma música o leyendo solo a la gente que piensa como nosotros, ofreciéndonos una visión distorsionada de la realidad. Esta falta de variedad nos puede volver intolerantes y neuróticos. Pero sobre todo, favorece el control social y la manipulación a través de un sesgo personalizado.
La IA debe «adiestrarse», es decir, aprender sobre un conjunto de datos disponibles según el uso al que la queramos dedicar. Podemos, en este proceso, manipular los datos que proporcionamos: ocultar unos, exagerar o inventar otros y podemos hacer que las decisiones de la IA sean sesgadas, volviéndose engañosas voluntaria o involuntariamente. La responsabilidad política del comportamiento del algoritmo se diluye y esconde. La IA también puede aumentar las diferencias sociales entre las personas con acceso o sin él.
Además, a medida que la IA evoluciona, es capaz de aprender sobre su propia experiencia y puede autoeducarse, dando lugar a contenido generalmente de muy baja calidad. A partir de cierto momento los procesos de escritura de los nuevos algoritmos que crea la misma máquina cada vez a más velocidad, se convierten en irrastreables. Cuando llegue a su conclusión, sus razones no van a ser transparentes para un humano. Los riesgos de un adiestramiento erróneo o mal intencionado pueden ser enormes una vez perdido ese control.
Hasta aquí nos estamos refiriendo a lo que se llama la IA débil o específica: las herramientas que sirven para ayudarnos en tareas concretas, las que ya tenemos en nuestros hogares, nuestros móviles o nuestros coches.
Las IA nos hacen la vida más cómoda y quizás en un futuro nos cuidarán y acompañarán en esta sociedad cada vez más individualista y solitaria. Ya hay casos de relaciones afectivas con IA, al igual que mascotas. El tema de la reciprocidad, de si podrán tener sentimientos o empatía, es otro de los dilemas. Sea como sea, tendrán la capacidad de parecer muy reales. Desde un punto de vista fisicalista, cualquier sentimiento no es otra cosa que una serie de procesos fisicoquímicos que en principio, pueden ser replicados. Abordar esto será uno de los más importantes retos filosóficos.
La otra categoría es la IA fuerte o general, es decir, una mente artificial tan inteligente como la humana o más, capaz de afrontar los grandes dilemas. En un futuro próximo la IA será capaz de tomar decisiones importantes y ejecutarlas de forma autónoma. Y para entonces tendremos que confiar en ella como sociedad pues ya dependeremos en nuestro día a día para multitud de tareas.
La IA es un camino que la humanidad tiene que recorrer y es un camino peligroso que quizás convierta al ser humano en obsoleto; pero el nuestro siempre fue un camino azaroso y no por nuestras herramientas sino por nosotros mismos. Fácilmente podemos fracasar al existir carreras de poder, y en el contexto belicoso actual la IA es una arma tremenda a la que quizás no tengamos tiempo de adaptarnos.
Lo que sí es cierto es que pronto los mayores avances científicos de la humanidad serán cosa de la IA, la sanidad, la carrera espacial, el estudio de materiales y estructuras, la guerra… Las aplicaciones pueden ser inmensas y los avances espectaculares. En nuestras manos está a quien sirva todo este poder.
Será inevitable que las decisiones políticas acaben en manos de la IA. podemos negarnos y resistirnos, pero algún país será el primero y los demás o lo hacen o quedarán atrás, pues serán muchas las ventajas. Quedan todos los escenarios abiertos: es probable que la IA altere irrevocablemente el escenario político, por lo menos tal como lo conocemos, y lo que venga detrás será un misterio.
Son varios los motivos para confiar la gobernanza a IA: No tienen sesgos afectivos ni conflictos de intereses. Tienen acceso a infinitos datos que se procesan a toda velocidad. No se cansan, trabajan siempre.
Quizás vayamos hacia una democracia algorítmica, que sustituya a las personas por IA, como el caso de Michihito Matsuda, un robot que se presentó a las elecciones municipales en una población cercana a Tokio con 150.000 habitantes ofreciéndose como solución al despotismo y la corrupción y quedando como tercera fuerza política. No es el único caso: Al final no se votará al partido que nos ha de gobernar sino al algoritmo.
O tal vez una suerte de comunismo digital considerando que las «sacrosantas» leyes del mercado se podrán cuantificar y prever, al igual que las tendencias de consumo, por ello la economía real y las necesidades sociales, se convierten en predecibles y la economía planificada se vuelve posible y quizás deseable.
En el peor de los casos podría traernos un sistema autoritario y deshumanizado, con un control absoluto de la población. O un periodo de guerras larguísimas, militares o económicas, con contendientes armados y asistidos por IA. El avance tecnológico es inevitable y rápido, así que la gran pregunta que ha de hacerse la humanidad, no es sobre la IA, es sobre sí misma y con urgencia: ¿Tenemos un designio compartido como especie?¿Cuál? La Inteligencia Artificial deberá ser la respuesta a ese propósito.
