El modelo de inteligencia artificial Claude asumió la conducción del 26% de las tareas de investigación y desarrollo de Antropic, mientras la empresa prepara una revisión externa de sus procesos de desarrollo y seguridad.
Del apoyo al liderazgo operativo
La participación de Claude en la conducción de investigación y desarrollo era prácticamente nula en febrero. Para agosto, Antropic contaba con más de 30.000 agentes de IA dedicados a labores de investigación e ingeniería, en un avance concentrado en medio año.
En las tareas donde el modelo trabaja junto con empleados, Claude interviene en cerca del 90% de toda la I+D de la compañía. La función de liderazgo no implica una operación sin personas: una persona define y supervisa la orientación general, mientras el sistema ejecuta el trabajo.
Antropic precisó que Claude no desarrolla inteligencia artificial de forma completamente autónoma sin intervención humana. Los agentes de IA pueden ejecutar varias tareas para cumplir un objetivo definido, a diferencia de los chatbots limitados a responder instrucciones humanas.
La compañía presentó estas mediciones en relación con la mejora recursiva reflexiva, o RSI, un proceso en el que la IA participa en el desarrollo de sistemas más avanzados. Esos sistemas mejorados pueden, a su vez, acelerar el desarrollo de la siguiente generación.
Antropic sostuvo que una aceleración del desarrollo de los propios modelos puede dificultar que las personas los entiendan o controlen. Por ello, consideró relevante divulgar indicadores sobre la cercanía del sector a ese proceso.
Seguridad y revisión externa
Por primera vez, Antropic detalló la proporción de recursos de cómputo dirigida a seguridad. Durante una semana de julio, cerca del 6% de los recursos de cómputo para I+D de IA fue destinado a investigación de seguridad.
La proporción subió a alrededor del 12% de los recursos de cómputo al considerar únicamente la investigación y desarrollo de IA realizada por sistemas de IA. Además, la empresa estableció un seguimiento continuo del volumen de investigación hecho con esta tecnología.
El siguiente paso previsto es abrir el proceso interno a evaluadores de terceros. Antropic prevé darles acceso a procedimientos, sistemas y datos en un nivel similar al de sus empleados, para que el desarrollo y la seguridad puedan ser revisados fuera de la compañía.
Dario Amodei, director ejecutivo de Antropic, ha planteado reforzar las salvaguardas mientras se controla el ritmo del desarrollo de IA de vanguardia. La apertura a evaluadores externos queda planteada como la próxima etapa de ese esquema de seguimiento.
