![](\"https:\/\/static.eldiario.es\/clip\/795898f6-1fb2-4ab0-922b-59435f697ec6_16-9-discover-aspect-ratio_default_0_x1027y783.jpg\")
<\/p>\n<\/p>\n
<\/p>\n
El CEO de Anthropic propone \u00abralentizar\u00bb el desarrollo de IA avanzada para aprender a controlarla, pero China, expertos y otros actores cuestionan qui\u00e9n debe decidir el ritmo de la tecnolog\u00eda.<\/p>\n<\/div>\n
Si el debate sobre la posibilidad de que la humanidad quede amenazada por las inteligencias artificiales iba a estallar alguna vez, no había dudas de que Dario Amodei<\/strong> iba a ser una de las voces centrales. “Estoy de acuerdo con Dario”, dijo este fin de semana Sam Altman<\/strong>, CEO de OpenAI y principal competidor de Amodei. “Dario tiene razón”, publicó Elon Musk<\/strong>, fundador de SpaceX y xAI. “Dario señala el camino correcto a seguir”, coincidió Demis Hassabis<\/strong>, premio Nobel y jefe científico de Google DeepMind, el laboratorio de inteligencia artificial avanzada de Google. <\/p>\n Esta tan poco común unión bajo una misma voz se produce después de que Amodei publicara un ensayo sobre cómo evitar que la IA se salga de control. “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, pide el fundador y director de Anthropic, que consiguió ser una de las referencias en los debates sobre la seguridad de la IA tras una década alertando sobre ellos. <\/p>\n “Como muchas tecnologías anteriores, la IA también conlleva riesgos y, dado su enorme poder, estos son graves”, sostiene en su ensayo. “Entre ellos están el riesgo de perder el control de los sistemas de IA, su uso para realizar ciberataques y ataques bioterroristas y una grave disrupción económica. Una carrera hacia el abismo, impulsada por los incentivos comerciales, puede agravar todos estos riesgos”. <\/p>\n ¿Cuál es exactamente el plan que tuvo tan buena recepción en Silicon Valley? En resumen, regular deliberadamente la velocidad a la que se desarrollan las capacidades de la IA<\/strong>. Esto “ralentizaría” su avance “uno o dos años”, con el objetivo de darles más tiempo a los investigadores especializados en seguridad para adaptarse a los últimos avances<\/strong> y diseñar nuevos mecanismos de control. <\/p>\n La estrategia de ralentización de Amodei se organizaría en tres niveles. La clave de su plan son los “evaluadores externos independientes”<\/strong>, personas que se integrarían a los equipos de desarrollo de los laboratorios de vanguardia “para verificar las prácticas de seguridad e informar sobre incidentes”. <\/p>\n “Integrar evaluadores puede parecer un paso pequeño o intrascendente”, reconoce Amodei, “pero a menudo lo que parece más aburrido o rutinario es en realidad lo más esencial. De hecho, los evaluadores integrados son una práctica bastante radical que va mucho más allá de lo que hace cualquier empresa de IA actualmente”, sostiene. <\/p>\n Estas personas se encargarían de verificar si cada empresa de IA cumple con las medidas de seguridad<\/strong> que afirma tener, aportarían transparencia sobre los desarrollos reales y ofrecerían “una segunda opinión sin incentivos comerciales”. “Muchos beneficios en materia de seguridad pueden derivarse simplemente de que los evaluadores señalen aspectos que los empleados no habían considerado, pero que están dispuestos a corregir una vez que los conocen”, asegura. <\/p>\n El m\u00e9todo m\u00e1s eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no est\u00e1n dispuestas a cooperar voluntariamente<\/p>\n Los evaluadores serían la llave para la segunda parte del plan: establecer límites de velocidad entre “naciones democráticas”. Aunque el jefe de Anthropic utiliza este concepto a nivel general para justificar el hecho de dejar fuera de la estrategia a China, aunque a nivel práctico en sus medidas para “las democracias” solo hace referencia a EE.UU.. “El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EE.UU., ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente”, dice. <\/p>\n El plan deja abierto cómo establecer esos límites de velocidad, pero Amodei propone un sistema basado en “puntos de control”<\/strong>. “Si los modelos poseen la capacidad X, deben ir acompañados de certificaciones de las propiedades de alineación Y y Z —como una combinación de evaluaciones, análisis de interpretabilidad y auditorías de los entornos de entrenamiento— que demuestren dichas propiedades”, explica. <\/p>\n El tercer nivel sería la búsqueda de acuerdos de coordinación global<\/strong> para que “la frontera de la inteligencia artificial” avance de manera coordinada. “Esto será mucho más difícil de lograr”, reconoce. En este punto, Amodei plantea llegar a acuerdos con China y el resto de los “países autocráticos”<\/strong>, de modo que, si alguno decide abandonar el consenso internacional, esa decisión no llegue a convertirse en una amenaza existencial desde el punto de vista militar. <\/p>\n Amodei también es claro respecto de los objetivos. “Deberíamos abordar cualquier decisión sobre el avance global, especialmente a corto plazo, de manera que se proteja el liderazgo de Estados Unidos y sus aliados”. <\/p>\n El consenso que el plan Amodei generó en Silicon Valley es directamente proporcional a la desconfianza, o directamente rechazo, que suscitó fuera. Incluso en Washington, la estrategia parece haber caído en saco roto, con Donald Trump negando por partida doble su colaboración. <\/p>\n La segunda gran reacción llegó por parte de China, el elefante en la habitación en el documento de Amodei. Chen Yixin, el ministro de Seguridad chino, publicó una carta en la que acusa a “ciertas naciones” de “limitar la capacidad de otros países de adquirir equipos técnicos de vanguardia y mejorar sus capacidades de innovación tecnológica”, relacionando directamente en plan de Amodei con el embargo de chips. <\/p>\n El plan est\u00e1 repleto de medidas de contenci\u00f3n dirigidas a China y es, en esencia, un "manual de la Guerra Fr\u00eda" para el sector<\/p>\nLas claves del ‘plan Amodei’ para la IA<\/h2>\n
\n
\n<\/div>\n Dario Amodei<\/span> <\/div>\n<\/p><\/div>\n<\/blockquote>\n![\"Dario](\"https:\/\/static.eldiario.es\/clip\/1ddfb818-48cc-4f7d-a60d-8fd5c91ff1c2_source-aspect-ratio_default_1151174.jpg\")
Una estrategia que no convence a casi nadie<\/h2>\n
\n
\n<\/div>\n