El vertiginoso y exponencial crecimiento de la Inteligencia Artificial (IA) no sólo redefine el mercado y la geopolítica global, sino que también plantea dilemas filosóficos y éticos inéditos. ¿Podrían las redes neuronales desarrollar una conciencia propia? ¿Cómo asegurar que los beneficios de esta tecnología sean equitativos en una sociedad fragmentada? Revista El Sur dialogó con Francisco “Pancho” Tamarit sobre lo que se puede esperar de la IA en la próxima década: desde las “sorpresas” de sus nuevos modelos hasta la urgente necesidad de regulación. Además, el especialista expone la crítica situación del sistema científico argentino que, a pesar de ser la base del éxito tecnológico nacional, hoy se encuentra desfinanciado, creando una peligrosa incongruencia entre el discurso político y la capacidad de producción de conocimiento del país.

- En el artículo "Inteligencia en humanos, animales y máquinas", que co-escribiste con Leonardo Rufiner para el libro Pensar el futuro, decís que en la próxima década vamos a ver cambios abismales. ¿Qué es lo que podemos esperar en este sentido?

- Lo que podemos esperar son muchas sorpresas. Si bien la IA nos entusiasma porque nos ayuda (es bueno tener un chat que pueda traducir, resumir o escribir), también trae cosas peligrosas. Detrás de los algoritmos surgen malos usos: en la guerra, el espionaje y el uso de datos privados. Un punto crítico es que, si alguien sube sus datos privados, el chat los toma para realimentarse, y no se pueden borrar como en una memoria convencional. Es como si yo te pidiese que olvidaras el cuento de Caperucita Roja. El crecimiento es tan rápido, potenciado por la velocidad de las computadoras, el altísimo número de datos y la eficiencia de los algoritmos, que la mejora de su eficacia avanza exponencialmente. Ni siquiera quienes trabajábamos en redes neuronales en 2005 pudimos predecir el boom que vendría. Es difícil predecir dónde se disparará la próxima gran innovación. Por ejemplo, la habilidad lingüística de ChatGPT-4 nos agarró de sorpresa, y en muy poco tiempo, ya no solo hablaba, sino que razonaba mejor. El ChatGPT-5 es muy bueno en matemáticas fundamentales, y se ha avanzado en la manipulación de videos. Es impactante la velocidad.

- El historiador y escritor israelí Yuval Arari se refiere a la IA como una suerte de “inteligencia alienígena” por la manera en la que procesa datos. ¿Vos creés que en algún momento la IA puede llegar a tener una suerte de súper conciencia o una conciencia humana?

- Coincido con Arari en que nos encontramos con una inteligencia distinta, hecha sobre otro sustrato. Él dice “alienígena” porque es externa a la nuestra. Yo veo a las redes neuronales, en las que participo desde 1987, como un modelo de cerebro, un cerebro artificial inspirado en el humano. La pregunta sobre la conciencia depende de si estos artefactos son solo estadísticos o si, como muchos creemos, procesan la información de forma muy parecida a los cerebros. Si construimos cerebros artificiales muy grandes y optimizados, y además se los dota de corporalidad (sensores que emulen la retina, el olfato o el oído), es lícito preguntarse si podrían desarrollar estados de conciencia parecidos a los humanos o animales, o quizás una conciencia totalmente nueva. Esto amerita que seamos muy cuidadosos.

- ¿Cuidadosos en qué sentido?

- En el sentido de ir reflexionando y analizando estas cuestiones a medida que avanzamos, eventualmente poniendo reglas de transparencia y de buen uso. Esto es algo que no está ocurriendo.

- ¿No está ocurriendo en ningún lado?

- Hay modelos distintos. Estados Unidos y China optan por no regular y alinean al Estado con el gran capital en objetivos estratégicos. Hablan de consensuar normas de uso, no de prohibiciones. En cambio, Europa opta por regular a través de una ley que aplica a todos sus ciudadanos. En Argentina y América Latina se debate y hay muchos proyectos, pero no hay consenso. Lo que no se percibe es que el esfuerzo más importante de Europa fue unirse y adoptar un abordaje comunitario. Los países de la región comparan sus propias naciones con Europa, sin darse cuenta de que la clave de la regulación europea es la integración. Si no nos unimos, no podemos competir contra dos potencias tan grandes en tecnología como Estados Unidos y China.

- En una sociedad tan fragmentada como la nuestra, que no haya políticas claras en torno a la IA, sobre todo con este avance tan vertiginoso, ¿cómo garantizar que los beneficios que traiga la IA sean equitativos y beneficien a toda la sociedad?

- Las tecnologías mejoran la calidad de vida, pero también potencian la concentración. Los ricos son cada vez más ricos y el poder está más concentrado. Si bien la calidad de vida ha mejorado en ciertos indicadores, la humanidad sigue padeciendo “vergüenzas” como el hambre, la guerra y la discriminación, las cuales están incluso exacerbadas, a pesar de que hoy existe la tecnología para abordarlas. Detrás de toda la disputa geopolítica entre Estados Unidos (como hegemón) y el mundo multipolar (China, Europa, BRICS) también está la Inteligencia Artificial. Quien la domina tiene una posición de privilegio.

- ¿Cuáles son los elementos sensibles necesarios para crear una IA?

- Para empezar, las máquinas. Se requieren centros de datos gigantescos que consumen mucha energía, agua y tierras raras, minerales estratégicos de los que se habló en el contexto de la guerra de Ucrania. La parte de hardware es indispensable, y nosotros estamos totalmente atrás en la soberanía tecnológica sobre estos puntos. En segundo lugar, los datos. Hay Estados y empresas que los usan para invadir la privacidad o controlar, pero por otro lado son esenciales para avances en salud y educación. Como nadie se preocupa lo suficiente, hay buen y mal uso. Y por último los algoritmos. El mecanismo que construye el cerebro artificial puede cometer “tropelías” o errores, como el sesgo por no balancear los datos; por ejemplo, olvidar incluir cierta parte de la población por edad o género. Además, estos modelos de redes neuronales tienen un problema de opacidad, una suerte de “caja negra” ya que deciden, pero no pueden explicar cómo lo hicieron, a diferencia de los modelos científicos tradicionales. Esto genera un dilema: priorizar tecnologías explicables nos dejaría fuera de la expertise del ChatGPT o de la generación de videos, por ejemplo.

- En su momento, las revoluciones industriales modificaron mucho las sociedades y dejaron afuera una gran cantidad de trabajadores. ¿Es comparable ese fenómeno con lo que se viene ahora?

- Yo creo que va a ser más drástico e impactará en más cantidad de actividades. Las revoluciones anteriores hicieron desaparecer trabajos y generaron otros nuevos, pero no teníamos una tecnología que nos ayudara en nuestras actividades mentales. La computadora convencional solo guarda memoria y hace operaciones aritméticas rápido, pero no piensa; no puede distinguir un perro de un gato en una foto. Las nuevas tecnologías, en cambio, alivian el trabajo en cuestiones mentales.

- Y nos restan capacidades cognitivas, ¿no?

- Es una posibilidad. Un ser humano del Paleolítico era más fuerte y cazaba mejor, habilidades que hemos perdido porque no las necesitamos. Ahora, hay estudios que muestran que quienes usan estas tecnologías parecen perder un poco de capacidades cognitivas. También se ha constatado con taxistas que usan GPS, quienes pierden la capacidad de orientarse. Por primera vez esto sucede con actividades mentales. Si nuestras mandíbulas se hicieron más chicas porque comemos carne procesada, ¿qué pasará cuando esto implique escribir o razonar? Probablemente en el futuro seamos buenos para pensar cómo promptear a la IA, pero no para resolver esas cosas por nosotros mismos.

- ¿Qué está pasando en las aulas con la Inteligencia Artificial?

- Los chicos la usan, y por suerte los profesores también están empezando. Al principio quedamos descolocados, pero la IA con modelos de razonamiento (como el ChatGPT-5) ya se hace muy competitiva en el aula. No podemos forzar a los chicos a no usarla. Es un fenómeno comparable, aunque potenciado, a lo que pasó con las calculadoras y los celulares. Van a aparecer otras habilidades que la universidad tendrá que cultivar, como saber manipular la IA. Es muy positivo que haya colegas pensando en generar inteligencia artificial para cada materia que ayude al profesor y al estudiante, permitiendo consultas inmediatas y asistiendo en el razonamiento de conceptos teóricos. Esto reconfigura la educación a un modelo mucho más dinámico y moderno, aunque el camino es espinoso y el consenso no es fácil. No podemos ignorarlo.

- ¿Y en el Conicet?

- El Conicet promueve la producción de conocimiento, pero sus instrumentos (contratación de científicos, becas, financiamiento) están cuestionados y congelados por el gobierno. El sector científico y universitario es el más castigado. Esto es irónico porque si empresas privadas como Mercado Libre han tenido éxito en IA en la región, es porque el país supo cultivar ese conocimiento: esta universidad ya tenía tesis de doctorado sobre el algoritmo de retropropagación del error a principios de los '90 (NdelR: se refiere al método de aprendizaje supervisado para entrenar redes neuronales artificiales). Hoy los jóvenes encuentran fácilmente opciones con salarios mucho mejores en el mercado privado. Llama la atención que un presidente con un discurso tan positivo hacia la tecnología desconsidere tanto la producción del conocimiento. Imaginar que todo el conocimiento se compra o adquiere afuera, destruyendo la base de creación local, solo nos traerá más pobreza. Argentina tiene nichos de alta competitividad (como la revolución de la producción en el campo de los '90, la industria nuclear o el desarrollo de satélites), que se construyeron con universidades, el INTA, el INTI, la CNEA, y actores privados. ¿Por qué destruir eso? Hay una incongruencia y un alto grado de ignorancia en la idea de que se puede prescindir del desarrollo científico y tecnológico local, mientras se deslumbra con las grandes tecnológicas. La universidad debe seguir formando espíritus críticos que miren y quieran resolver los problemas del país. Pero no nos piden ningún cambio, dicen mentiras y nos agreden, dicen que a nosotros no nos audita nadie. Eso es mentira, claro que nos auditan. La ley es muy clara y nosotros queremos que se cumpla la ley. Y si hay alguna objeción, discutamos la ley. Pero no digan que no nos auditan. No digan, como dijo una senadora por Córdoba, que esto es un nido de corrupción. Yo no puedo creerlo. A mí me gustaría invitarla a tomar un café y mostrarle cómo funcionamos.

- Mejoras sí, pero no destruirlo todo.

- Claro, en consenso, racionalmente, usando la mirada de diferentes saberes. Pero no nos invitan. Nos dicen que somos prescindibles.