Anthropic considera que su propio éxito es clave para hacer que la inteligencia artificial sea segura.

El éxito de Anthropic como clave para la seguridad en la inteligencia artificial

Anthropic ha dedicado los últimos cinco años a alertar sobre los peligros que la inteligencia artificial avanzada podría representar, tales como la destrucción masiva y la desestabilización social. Sin embargo, la empresa se ha posicionado como un actor fundamental en el desarrollo de capacidades de IA, atrayendo clientes de gran relevancia, como el ejército de los Estados Unidos, y alcanzando una valoración cercana a $1 billón.

A primera vista, el mensaje de precaución de Anthropic puede parecer contradictorio con sus acciones. No obstante, dentro de la organización, muchos consideran que no existe tal discrepancia. Para comprender su enfoque, es esencial conocer sus dos creencias fundamentales. La primera sostiene que la inteligencia artificial es la tecnología más transformadora en la historia de la humanidad y que su llegada es inevitable. La cuestión crítica es si esta transformación resultará en una catástrofe o en una prosperidad sin precedentes.

La segunda creencia de Anthropic es que es preferible liderar la carrera de la IA para garantizar un futuro más seguro. Según ex empleados, los miembros de la empresa se consideran a sí mismos como los "buenos", responsables de la gestión ética de esta tecnología. Para ellos, la acumulación de poder—ya sea en forma de capital, capacidad de cómputo, talento o influencia política—no es un objetivo en sí mismo, sino un medio para cumplir su misión: "asegurar que el mundo haga la transición de manera segura a través de la IA transformadora".

Helen Toner, directora ejecutiva del Centro de Seguridad y Tecnología Emergente de Georgetown, utiliza una analogía para ilustrar la visión de Anthropic. Compara la potente IA con un bosque lleno de tesoros y monstruos. En su relato, la empresa busca adentrarse en el bosque más que nadie, invirtiendo en la mitigación de los riesgos asociados, mientras aprovecha los beneficios de la IA.

Toner señala que la estrategia de Anthropic es clara: "La gente va al bosque de todos modos, tenemos que hacerlo primero". La empresa busca ser un jugador relevante en la mesa de discusión sobre los sistemas de IA, sus riesgos y la defensa de salvaguardias adecuadas. "Son directos al respecto. Es una estrategia lo suficientemente peculiar que a la gente le cuesta entenderla", añade.

El CEO de Anthropic, Dario Amodei, ha expresado este enfoque en una conversación con sus cofundadores, destacando la necesidad de ser competitivos y, al mismo tiempo, operar de manera segura: "Si puedes hacer eso, la fuerza gravitacional que ejerces es tan grande".

Fundada en 2021 por ex empleados de OpenAI que perdieron la confianza en su liderazgo, especialmente en el CEO Sam Altman, este sentimiento aún influye en la cultura de la empresa. En discusiones internas, los ejecutivos de Anthropic a menudo mencionan a Altman y OpenAI, así como a otras empresas como Meta y el xAI de Elon Musk, como ejemplos de lo que buscan evitar en términos de responsabilidad y gestión ética.

En muchos aspectos, Anthropic comparte similitudes con otras startups de Silicon Valley, que se presentan como defensores de un futuro más seguro y ético en el ámbito de la inteligencia artificial.