Inteligencia Artificial y la falsedad de sus resultados
Observatorio Ciudadano
Alfredo Sainez
El futuro no solo nos alcanzó sino rebaso; así lo confirma el uso común y actualización constante de las inteligencias artificiales (IA en singular por sus siglas) ChatGPT, Gemeni, Copilot y Claude, etc., como nuevas herramientas tecnológicas disruptivas y emergentes en la llamada Sociedad de la Información y el Conocimiento (SIC), en el marco de la Cuarta Revolución Industrial (4.0), que han impactado generando beneficios y perjuicios. Sin embargo, cabe preguntar: ¿Qué pasa cuando alguna IA que utilizamos nos proporciona resultados falsos? ¿Deben verificarse los datos e información consultando las fuentes primarias?
A manera de ilustrar y dar una respuesta tentativa a estas preguntas y otras inquietudes se presentó la ponencia, Aplicación y verificación de datos de las inteligencias artificiales (IAs) en la integración de las administraciones públicas centralizadas de los gobiernos federal, estatal y municipal conforme al principio de paridad de género de 2024-2027, que se circunscribe en el eje temático VI, denominado, Inteligencia artificial, gobernanza y procesos democráticos en el marco del Primer Congreso Internacional Democracias en transformación: crisis, adaptaciones y nuevos equilibrios, que se llevó a cabo del 21 al 23 de octubre en la Universidad Autónoma de Zacatecas.
Con este propósito, se formuló un “prompt”, que es una instrucción o pregunta escrita que se le da a un modelo de Inteligencia Artificial para que realice una tarea específica. En nuestro caso utilizamos la IA Claude– a efecto de identificar el principio de paridad de género mediante el uso de las aplicaciones de algoritmos de IA en las administraciones públicas centralizadas de los gobiernos en comento. El “prompt” fue el siguiente:
Como experto en paridad de género y considerando que los artículos 41º y 115 de la Constitución federal establecen que las administraciones públicas tanto federal como estatales y municipales para su integración deben aplicar el principio de paridad de género, contesta: ¿existe paridad de género en la integración de la administración pública centralizada del gobierno federal, en la administración pública centralizada del gobierno del estado de Guanajuato y en la administración pública centralizada del gobierno municipal de León? Señala nombres de los titulares y su género por secretaria de despacho; así como la citación vinculada con las fuentes consultadas.
Para muestra basta un botón:
En la Administración Pública Federal Centralizada se observan los siguientes resultados: la IA acierta en la mayoría de las denominaciones de las secretarías de despacho y personas titulares, salvo en las secretarías de Bienestar y de las Mujeres, donde maneja todavía los nombres de Ariadna Montiel Reyes y Citlalli Hernández Mora, respectivamente, como titulares; así como en la titular de la consejería jurídica al considerar a Esthela Damián cuando la actual es Luisa María Alcalde Luján; yerra en la denominación de la Secretaría de la Función Pública debido a que este cambio a Secretaría Anticorrupción y Buen Gobierno. También omite la denominación de la Secretaría de Desarrollo Agrario, Territorial y Urbano, y la titular Edna Elena Vega Rangel.
En suma, estos errores u omisiones que comenten las IA’s se deben a sus programadores y desarrolladores que las alimentan. Circunstancias que nos obligan como usuarios de estas herramientas disruptivas a cotejar y verificar los datos e información que nos proporcionan. También a replantear modelos pedagógicos para que los estudiantes que las utilicen no atrofien su racionalidad, como lo diría Giovanni Sartori, al advertir sobre la transición del homo sapiens (hombre que piensa) al homo videns (hombre que ve). Este es el reto.
Ustedes tienen la palabra.
Alfredo Sainez
Politólogo egresado de la Facultad de Ciencias Políticas y Sociales de la Universidad Nacional Autónoma de México (UNAM), maestro y doctor en Pedagogía con mención honorífica. Cuenta con un Postdoctorado en Inteligencia Artificial para la Administración Pública en el Instituto Nacional de Administración Pública (INAP-México) y estudios de posgrado: Máster en Los Retos del Constitucionalismo en el Siglo XXI por la Universidad de Barcelona; Asesor Experto en Conocimiento, Ciencia y Ciudadanía en la Sociedad de la Información por el Instituto de Formación Continua de la Universidad de Barcelona; Especialidad en Derecho Parlamentario y Técnica legislativa por la Benemérita Universidad de Oaxaca (BUO); Maestría en Derecho Parlamentario por la BUO; Maestría en Administración Pública (INAP-México); y Maestría en Innovación y Gestión Pedagógica por el Colegio de Estudios de Posgrado del Bajío (CEPOB). Correo electrónico: alfredosainez@gmail.com
