Especialistas vinculados con la UNAM y voces internacionales advierten sobre la velocidad con la que avanza la inteligencia artificial, la concentración de poder en grandes empresas tecnológicas y la necesidad de establecer límites y regulación.
La inteligencia artificial avanza a toda velocidad, pero las dudas sobre quién controla su desarrollo y cuáles podrían ser sus consecuencias también crecen.
Debates realizados dentro del proyecto CITA (Ciencia, Innovación, Tecnología, Academia), impulsado por el Centro de Ciencias de la Complejidad (C3) de la Universidad Nacional Autónoma de México (UNAM) y la Academia Mexicana de Ciencias, plantean que la adopción masiva de estos sistemas estaría respondiendo principalmente a intereses corporativos y comerciales, en lugar del bien común.
Las preocupaciones van desde sus efectos sociales y emocionales hasta escenarios mucho más graves relacionados con una eventual pérdida de control de los sistemas.
Advierten sobre una IA cada vez más autónoma
El investigador Evan Hubinger, especialista en alineación de sistemas, considera que existe una probabilidad superior al 10 por ciento de que la inteligencia artificial pueda extinguir a la humanidad durante la próxima década.
La advertencia se suma a las preocupaciones expresadas por especialistas como Jacob Coxon y el director ejecutivo de Anthropic, Dario Amodei, quienes señalan que los modelos están adquiriendo capacidades a una velocidad que no se había previsto.
Entre ellas se encuentran la posibilidad de automejorarse o ejecutar tareas de manera autónoma mediante los llamados agentes de IA.
Estas inquietudes, de acuerdo con el planteamiento expuesto, retoman cuestionamientos sobre el desarrollo de las máquinas que ya habían sido formulados desde la década de 1950 por Alan Turing.
¿Quién se beneficia de la inteligencia artificial?
Dentro de la UNAM, Sarah Abel, investigadora del Instituto de Investigaciones Filosóficas, cuestionó el origen mismo de estos sistemas.
La especialista sostiene que los modelos generativos fueron desarrollados para enriquecer a una élite tecnócrata de Silicon Valley y advierte sobre la presencia de dinámicas de misoginia dentro de los algoritmos.
También señala que muchas personas han incorporado estas herramientas a su vida por las presiones de productividad o por aislamiento afectivo.
Según su análisis, esta dependencia podría desplazar la interacción entre personas e incluso debilitar formas de organización política ciudadana.
Concentración de poder, datos y armas autónomas
Otro foco de preocupación está en manos de las grandes empresas tecnológicas.
Pedro Salazar Ugarte, investigador del Instituto de Investigaciones Jurídicas de la UNAM, considera que la concentración del control económico e ideológico podría sentar las bases de lo que denomina un eventual “totalitarismo autónomo”.
Su análisis incluye el uso de armamento autónomo y la monetización de los datos personales.
El investigador también advierte sobre sistemas que intentan sustituir vínculos humanos mediante simulaciones de empatía, fenómeno que relaciona con la problemática de soledad señalada por la Organización Mundial de la Salud (OMS).
La IA también entra en el terreno emocional
María Elena Medina Mora, integrante de la Facultad de Psicología de la UNAM, señaló que siete de cada nueve personas que requieren apoyo emocional recurren a plataformas digitales.
La académica también alertó sobre el aumento de problemas de salud mental entre estudiantes y sostuvo que cerca del 80 por ciento de las personas con padecimientos no recibe tratamiento.
Ante este escenario, los especialistas universitarios plantean la necesidad de establecer normas, restricciones y marcos regulatorios para orientar el desarrollo de la inteligencia artificial hacia la justicia social y el cuidado colectivo.
La discusión ya no pasa solamente por lo que la IA puede hacer. También por quién decide hasta dónde puede llegar y bajo qué reglas.
_
Con información de El Universal
