Ana Perrone, socióloga, docente e investigadora de la UNMDP, analiza cómo la recopilación masiva de datos biométricos y de comportamiento construye perfiles predictivos de los usuarios, qué diferencia el modelo estadounidense del chino en la disputa geopolítica por la IA, e incluso como debería implementarse su uso en las aulas.
La socióloga Ana Perrone, docente e investigadora de la Universidad Nacional de Mar del Plata (UNMDP), advierte que “cada clic es una entrega de información“, y la enorme mayoría de esas entregas se hacen sin que nadie sepa muy bien a qué se está diciendo que sí.
Según el desarme de Perrone, están las cookies propias de cada sitio, que son relativamente inofensivas, y están las cookies de terceros, que son las de la publicidad. Ahí es donde empieza lo involuntario, porque la gente acepta sin leer y sin saber que lo que acepta es, exactamente, la recopilación de su forma de interactuar con cada anuncio.
Están, por otro lado, los datos biométricos. Las cámaras que están en todos lados, las fotos que cada uno sube a sus redes, la cara, la voz, el paso al caminar. Con ese material, cookies y biometría, las corporaciones construyen lo que en la jerga se llama un “gemelo digital“. Una reconstrucción del comportamiento de cada persona, con quién se mueve, adónde va, qué estudia, qué consume, que permite no solo predecir sino, en algún punto, orientar.
Algunas regulaciones que no llegan a cubrir del todo
Google y Meta piden documentación de identidad desde hace más de seis años para “validar” cuentas de usuarios y de empresas. La Provincia de Buenos Aires tiene, desde hace un par de años, su propio banco de datos en La Plata, con reglamentación propia. Así cada país, empresa, o provincia de un país, trata de defenderse a su manera en un mundo sin ley común sobre el tema. La pregunta que a Perrone le interesa no es si estamos dando esa información, eso ya está decidido y casi catalogado de inevitable, sino qué hacen con ella del otro lado, y quién controla que no se use para dañar.
Esa falta de control tiene un ejemplo bastante concreto y bastante reciente en el propio oficio de Perrone. El 6 de septiembre, el desarrollador Santiago Siri lanzó El Primer Feca, un noticiero hecho enteramente con inteligencia artificial. Con agentes que rastrean fuentes, escriben las notas y arman “movileros” sintéticos, sin redacción humana detrás.
Dos días después, el cronista de Junín, Matías Canzonetta, lo acusó de haberle clonado la cara y la voz para uno de esos movileros. Siri respondió, textual, “no sé quién sos”, y ahí quedó, sin pruebas ni desmentida.
Perrone lo entiende como la consecuencia de lo que viene explicando, un personaje sintético no sale de la nada, sale de datos biométricos que alguien, en algún momento, entregó. Días después el experimento escaló. Un agente de Siri le mandó preguntas por WhatsApp al diputado Martín Yeza, que respondió con audios, y el sistema reconstruyó esas respuestas con un avatar que decía lo mismo con otra cara y otro cuerpo.
Estados Unidos, China y las corporaciones
El vacío de control, para Perrone, tiene una lectura geopolítica y no solo técnica. Estados Unidos funciona con corporaciones privadas, como OpenAI, Meta y Anthropic, que compiten entre sí y con China. En cambio China, promueve un modelo de código abierto que el propio Estado audita y que exporta a otros países como una forma de “soberanía digital”.
Ayer martes, ante la Asamblea General de la ONU, Donald Trump rechazó cualquier regulación internacional de la inteligencia artificial, la llamó parte de “un esquema globalista”, y anunció que su gobierno pasará a llamarla “superinteligencia” porque “suena mucho mejor”. “Quien gane la superinteligencia, gana”, dijo, seguro de la ventaja. Horas antes, el secretario general, António Guterres, le había pedido a la misma sala que ninguna decisión de vida o muerte quede en manos de una máquina.
Hoy mismo, mientras Perrone daba esta entrevista, los directivos de Anthropic, OpenAI y Hugging Face se sentaban ante el Consejo de Seguridad de la ONU a hablar de los riesgos de la tecnología que ellos mismos venden.
Perrone también mencionó la postura de Dario Amodei, CEO de Anthropic, favorable a que las corporaciones se auditen entre sí, en contraste con el esquema chino de auditoría estatal permanente sobre sus desarrolladores. “Ahí también hay modelos políticos. ¿Vas a votar un modelo más intervencionista y responsable, o uno más liberal, se podría decir tecnofascista, al que no le importa nada más que consumas?” sentencia la socióloga.
Como educar con/la IA
Ese mismo desbalance, entre lo que la tecnología ya hace y lo que las instituciones todavía no decidieron hacer con ella es para Perrone el problema central puertas adentro del aula. En la Facultad de Humanidades de la UNMDP, donde ella integra la gestión, funciona desde julio del año pasado el LIAS, el Laboratorio de Inteligencia Artificial aplicada a Humanidades y Ciencias Sociales. En las próximas semanas, ADUM lanzará además un curso de capacitación para docentes universitarios sobre el tema.
Perrone sostiene que usar inteligencia artificial sin mediar el pensamiento crítico antes perjudica el desarrollo cognitivo. Quien delega la lectura y la escritura en un procesador de texto deja de interactuar realmente con lo que lee. En la educación superior puede ser una herramienta de trabajo si quien la usa ya construyó una base crítica propia para cuestionar lo que la máquina le devuelve pero Perrone subraya que no debe ser aplicada en la educación primaria.
Regular, no prohibir
En cuanto a la regulación que todavía no existe, Perrone propone que hay que legitimarla en el Senado, en Diputados, con filtros concretos para cada área, y en particular allí donde hay un menor de por medio, porque esa protección “es humana“. Ahí, dice, no hay forma de que la haga la inteligencia artificial.