El uso acrítico de herramientas de inteligencia artificial generativa en el desarrollo de software puede causar errores lógicos con consecuencias económicas millonarias e incluso pérdida de vidas humanas, advirtió el docente investigador Roberto Solís Robles, al subrayar que estas tecnologías no comprenden el código que generan, sino que funcionan con cálculos probabilísticos que requieren supervisión humana constante.
Solís Robles explicó que la inteligencia artificial generativa —como ChatGPT o Gemini— no “entiende” el código, sino que transforma las palabras en valores numéricos que son procesados por redes neuronales para determinar qué respuesta es estadísticamente más probable.
Esta característica alimenta una “ilusión de perfección”, en la que el usuario asume que el resultado es válido solo porque aparenta estar bien redactado y presentado, señaló.
“El que un código que se genere tiene muy alta probabilidad de que sea correcto, no significa que sea correcto”, explicó al recordar el caso de la sonda espacial Mars Climate Orbiter, que en 1998 implicó la pérdida de más de 327 millones de dólares para la Administración Nacional de Aeronáutica y del Espacio (NASA).
La discrepancia entre el sistema métrico anglosajón usado desde la Tierra y el sistema de navegación de la nave, que esperaba valores en el sistema métrico decimal, se ha convertido en un caso emblemático y recordatorio de hacer pruebas de integración al unir softwares, expuso el ingeniero.
También pueden presentarse fallas de seguridad asociadas a malas prácticas de programación, como la reutilización mecánica de código no validado. Como ejemplo, mencionó una falla reciente en Telcel relacionada a inyecciones SQL.
Frente a este panorama, Roberto Solís invitó a las personas que buscan convertirse en desarrolladores de software a “Usar la IA para hacer 10 veces más rápido, no para pensar 10 veces menos”.
Uno de los docentes presentes en la plática externó su acuerdo y agregó que la responsabilidad de que las y los futuros programadores desarrollen criterio y comprensión del código recae en el personal docente. Explicó que dejar tareas más intensivas, en lugar de muchos ejercicios, es fundamental para fortalecer la capacidad de resolución de problemas que requiere un ingeniero.
“Recordar que la inteligencia artificial es deductiva e inductiva, nunca productiva. Y eso es lo que nos hace diferentes”, concluyó el investigador Erik Galván al cierre de la conferencia Uso de la Inteligencia Artificial en el Desarrollo de Software, que inauguró el ciclo Conecta con la IA, organizado por el Área de Ingenierías y Tecnologías, de la Benemérita Universidad Autónoma de Zacatecas (BUAZ).
