Sam Altman encendió las alarmas en Dreamforce 2026. El CEO de OpenAI reconoció que los sistemas de inteligencia artificial avanzaron hasta superar a las personas en determinadas capacidades y advirtió que la industria todavía no resolvió cómo controlar una tecnología cada vez más poderosa.
"Creo que el mundo tiene razón en tener miedo de esto", afirmó con contundencia durante el encuentro tecnológico realizado en San Francisco. La frase llegó después de varios días de cuestionamientos de investigadores y ex empleados de grandes laboratorios por la velocidad con la que se desarrollan los modelos y la falta de garantías suficientes para evitar incidentes.
Altman fue entrevistado por Marc Benioff, CEO de Salesforce, ante un auditorio de más de 700 personas. Allí reconoció que el avance de estas herramientas superó las expectativas de buena parte de la industria: "Las herramientas de IA se volvieron tan buenas y llegaron tan lejos, tan rápido, que creo que mucha gente no esperaba que esto ocurriera así".
Las advertencias de Altman, una por una
- La inteligencia artificial ya superó a las personas en algunos aspectos. Altman recordó que los primeros modelos apenas podían resolver operaciones básicas y comparó esa situación con el presente: "Se decía que en algunos aspectos, la IA iba a volverse más capaz, más inteligente que las personas... Bueno, eso finalmente ocurrió".
- La industria puede perder el control sobre los modelos. El CEO de OpenAI planteó un riesgo técnico central: que un sistema actúe de una manera diferente a la prevista o que sus propios desarrolladores ya no puedan controlarlo por completo tal como sucedió con el caso Hugging Face
- Las empresas no tienen respuestas definitivas para todos los problemas. La velocidad del desarrollo tecnológico avanza más rápido que los mecanismos diseñados para garantizar seguridad, supervisión y control.
- El peligro inminente de la concentración de poder de los tecnócratas. Altman fue contundente: "Un pequeño número de compañías que desarrolla estos modelos no puede tomar las decisiones que le corresponde tomar al mundo".
- La inteligencia artificial no es una herramienta neutral. Frente a la idea de que todo depende del uso que las personas hagan de la tecnología, rechazó esa interpretación: "Creo que las decisiones que toman las empresas que construyen estas cosas tienen consecuencias reales y, por ende, deberán asumir responsabilidades por los resultados de sus decisiones".
- Los modelos ya pueden transformar el trabajo y resolver problemas complejos. Altman recordó el salto ocurrido desde el lanzamiento de ChatGPT: "Hace tres veranos teníamos un modelo que apenas podía hacer matemáticas de escuela primaria. Un año después, OpenAI ya contaba con un sistema capaz de obtener buenos resultados en competiciones de nivel secundario y el año pasado ya era capaz de obtener una medalla de oro en la competencia más prestigiosa del mundo".
El empresario admitió que ningún sistema de control podrá eliminar por completo los incidentes: "Creo que cierto grado de accidentes es inevitable con una tecnología nueva", dijo en referencia a la comparación con la aviación que fue la respuesta de Altman frente a ese escenario. Según explicó, la industria debería informar cada incidente, investigar sus causas y modificar sus prácticas a partir de lo ocurrido.
"Lo que realmente me importa es que tengamos una gran cultura de reporte de accidentes y aprendizaje. Los accidentes van a ocurrir. Vamos a aprender todo lo que podamos y a reaccionar ante cada uno. Aprender de ellos rápidamente y adaptarnos a medida que ocurren le hará bien a nuestra industria y quizá nos permita evitar consecuencias de esa magnitud", concluyó. Así las cosas el futuro que avizora Sam Altman no solo depende de que la inteligencia artificial piense mejor que los seres humanos, sino de que todavía conserven la capacidad de ponerle límites.