El 13 de mayo se conocieron nuevas declaraciones de Daniel Kokotajlo, antiguo investigador de OpenAI y actual responsable del Proyecto AI Futures, quien afirmó que las compañías de inteligencia artificial están inmersas en una carrera por construir sistemas cuyo funcionamiento interno todavía no comprenden ni controlan plenamente.

El problema central, según explicó Kokotajlo, es el llamado “alineamiento”: el esfuerzo por garantizar que los futuros sistemas de IA sigan de forma confiable las instrucciones y los valores humanos, incluso cuando superen nuestras capacidades en múltiples áreas. A su juicio, los investigadores aún no entienden realmente cómo los modelos avanzados toman decisiones a nivel profundo, una incertidumbre que vuelve extremadamente difícil asegurar que esos sistemas actuarán exactamente como la humanidad desea.

“Es una especie de secreto a voces, pero todavía no tenemos una solución real que funcione”, comentó al referirse a los desafíos del alineamiento. Kokotajlo trabajó en OpenAI entre 2022 y 2024 en labores de previsión, analizando la velocidad a la que podrían progresar los sistemas y los riesgos económicos, políticos y de seguridad que surgirían a medida que las empresas desarrollen modelos más potentes. Tras dejar la organización, fundó el Proyecto AI Futures, una iniciativa de investigación sin fines de lucro donde continúa explorando esos mismos interrogantes y examinando los peligros de priorizar la velocidad y la competencia por encima de la precaución.

“En el momento en que se cree una superinteligencia, la humanidad dejará de ser la fuerza dominante en este planeta, al menos no lo será por defecto”, advirtió el especialista. Kokotajlo reiteró que mucha gente aún subestima el ritmo del avance tecnológico, porque las discusiones al respecto suelen sonar como ciencia ficción. Sus advertencias llegan mientras grandes empresas de inteligencia artificial continúan invirtiendo decenas de miles de millones de dólares en modelos cada vez más potentes y en centros de datos de escala descomunal.