La consultora en políticas tecnológicas Natalia Zuazo sostuvo que los gobiernos y las empresas deben establecer controles antes de ampliar el uso de la Inteligencia Artificial en áreas sensibles como la salud, el empleo, la seguridad y los servicios básicos. La especialista señaló que estas herramientas ya participan en la clasificación de imágenes médicas, la selección de candidatos laborales, el filtrado de contenidos e identificación de personas, por lo que remarcó que debe existir una persona que revise los resultados y responda por las consecuencias ante un error.
Por su parte, informes del sector tecnológico y advertencias de exinvestigadores de empresas como Anthropic y OpenAI señalan riesgos asociados a la automejora de sistemas avanzados y la automatización de procesos. En tanto, un informe de la consultora BTR Consulting señaló que la automatización está siendo utilizada para generar contenido fraudulento y optimizar ciberataques.
A nivel internacional se registran distintas posturas regulatorias. La Unión Europea implementó la AI Act para prohibir el reconocimiento biométrico masivo en tiempo real e imponer auditorías de transparencia. En Estados Unidos, la normativa exige informar al Estado cuando se entrenan modelos masivos que representen riesgos cibernéticos, biológicos o nucleares, mientras que China mantiene un control centralizado a través de la Administración del Ciberespacio.
En la Argentina, la propuesta del gobierno de Javier Milei busca eliminar regulaciones e incentivos impositivos para atraer inversiones tecnológicas y promover la creación de corporaciones automatizadas sin directivos humanos. En materia educativa, datos presentados por la OCDE sobre las pruebas PISA indicaron que los alumnos que emplearon con mayor frecuencia asistentes virtuales de Inteligencia Artificial para sus tareas escolares obtuvieron peores desempeños en la resolución de problemas matemáticos y en la interpretación de textos.
Frente a este panorama, el verdadero reto no parece ser el avance de la tecnología en sí, sino la capacidad de la sociedad para mantener el juicio crítico, preservar la supervisión humana y evitar que la búsqueda de practicidad termine relegando la propia autonomía y el pensamiento independiente.
EBW