La renuncia de un ingeniero de Anthropic, empresa dedicada al desarrollo de inteligencia artificial, encendió nuevamente el debate sobre los riesgos de esta tecnología. Jacob Coxon, profesional británico de 27 años que también trabajó durante tres años en OpenAI, afirmó que las compañías líderes en IA estarían “jugando con nuestras vidas” al acelerar el desarrollo de modelos cada vez más potentes sin suficientes medidas de seguridad.
A través de un hilo publicado en su cuenta de X, Coxon sostuvo que quienes trabajan en el desarrollo de sistemas avanzados de inteligencia artificial son conscientes de que estos podrían representar una amenaza sin precedentes para la humanidad. Según explicó, los próximos modelos podrían convertirse en sistemas capaces de superar ampliamente las capacidades humanas y adquirir influencia sobre distintos sectores.
“Se está subestimando el poder de la tecnología”, señaló el ingeniero, quien advirtió que los proyectos actuales de IA podrían transformarse pronto en herramientas capaces de “hackear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos”.
Investigador de Anthropic reconoce riesgos de una posible superinteligencia
Coxon cuestionó que las empresas de inteligencia artificial no estén coordinando esfuerzos para enfrentar escenarios extremos. Aseguró que, mientras OpenAI podría no haber asumido completamente los desafíos a nivel civilizacional, Anthropic comprendería mejor los riesgos, aunque estaría atrapada en la competencia por liderar el desarrollo tecnológico.
El ingeniero planteó medidas más estrictas, como una pausa temporal en la mejora de las capacidades de los modelos de IA, y pidió a los investigadores replantear el rumbo del desarrollo tecnológico. “¿Van a bajar la cabeza porque ya está ocurriendo, o aprovechar este momento para abogar por condiciones diferentes?”, cuestionó en su publicación.
Las declaraciones fueron respondidas por Evan Hubinger, investigador de Anthropic, quien coincidió parcialmente con la preocupación de Coxon. El especialista afirmó que dentro de la compañía existe la posibilidad de que una inteligencia artificial avanzada pueda representar un riesgo extremo para la humanidad, aunque consideró que los modelos actuales todavía presentan un nivel bajo de amenaza.
Hubinger indicó que el principal desafío estaría en una futura superinteligencia creada mediante procesos de automejoramiento recursivo, un escenario que, según explicó, estaría avanzando a una velocidad mayor de la esperada.
Expertos que alertaron sobre los peligros de la IA
La salida de Coxon se suma a otros casos de investigadores que abandonaron grandes compañías tecnológicas para advertir sobre los posibles riesgos de la inteligencia artificial. Uno de los casos más conocidos es el de Geoffrey Hinton, considerado uno de los padres de la inteligencia artificial moderna y ganador del Premio Nobel de Física, quien dejó Google en 2023 para poder hablar públicamente sobre sus preocupaciones.
Además, exempleados de OpenAI expresaron en 2024 su inquietud mediante una carta abierta en la que señalaron la falta de regulaciones y protección para trabajadores que advierten sobre los riesgos asociados al desarrollo acelerado de esta tecnología.
