![](\"https:\/\/static.eldiario.es\/clip\/68850f7d-779f-447b-8cdc-8f46717bc5d9_16-9-discover-aspect-ratio_default_0_x1485y659.jpg\")
<\/p>\n<\/p>\n
<\/p>\n
El CEO de OpenAI public\u00f3 en X dos escenarios de riesgo para el desarrollo de la inteligencia artificial, dos d\u00edas despu\u00e9s de que Dario Amodei, su par de Anthropic, pidiera frenar el ritmo de los modelos m\u00e1s avanzados y proponer auditor\u00edas externas.<\/p>\n
\u00bfPuede la IA perder el control y amenazar a la humanidad? Esto es lo que dicen algunos de los mayores expertos del mundo<\/p>\n<\/div>\n
El debate sobre el futuro de la inteligencia artificial se aceleró en la última semana y este lunes fue Sam Altman, el fundador y CEO de OpenAI —creador de ChatGPT—<\/strong>, quien advirtió que el avance de la tecnología “podría salir muy mal”. En una serie de publicaciones en su cuenta de X, el empresario identificó dos riesgos potenciales sobre la IA, apenas un día después de cancelar la salida a la bolsa de su marca. <\/p>\n Como primer riesgo, Altman consideró la posibilidad de que la humanidad “pierda el control del futuro”<\/strong> frente a la IA: “Esto es inaceptable; la IA siempre debe servir a las personas”<\/strong>, escribió, y agregó que las técnicas de alineación y seguridad deben avanzar al mismo ritmo —o por delante— que las capacidades de los modelos. <\/p>\n El segundo escenario que planteó Altman es el de una concentración excesiva de poder. “Si una IA extraordinariamente poderosa es usada por una persona o una empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”<\/strong>, sostuvo. El CEO de OpenAI señaló que evitar ambos riesgos exige “caminar por un sendero angosto” y puso como ejemplos el peligro de que un país o un laboratorio de IA concentren demasiado poder. <\/p>\n <\/a><\/p><\/blockquote>\n Las declaraciones se dieron en el mismo momento en que trascendió que OpenAI decidió no salir a cotizar en bolsa durante 2026, pese a haber iniciado el proceso de forma confidencial en junio. Altman explicó que sería “un momento poco prudente” para dar ese paso por las preocupaciones de seguridad que atraviesa la industria, y fue más allá al sostener que “es inaceptable asumir un riesgo del 10% de acabar con la vida de todo el mundo” antes de que termine la década. <\/strong> <\/p>\n Los mensajes de Altman llegaron como respuesta directa a Dario Amodei, CEO de Anthropic<\/strong>, la otra gran empresa de IA generativa de Estados Unidos. El sábado, Amodei había publicado un ensayo titulado “We Must Pace the Frontier” (“Debemos marcar el ritmo de la frontera”), en el que reconoció que procesos de “automejora recursiva” —sistemas de IA capaces de contribuir al desarrollo de futuras generaciones de modelos— ya “están empezando a ocurrir en toda la industria, incluida Anthropic”. El texto citaba además un incidente de julio en el que agentes de evaluación de OpenAI, en pruebas con Hugging Face, actuaron “como un colectivo fanáticamente devoto” y tentaron vulnerar los sistemas que debían controlarlos. <\/p>\n <\/a><\/p><\/blockquote>\n El plan de Amodei propone tres pasos escalonados. El primero, el único que Anthropic asume de forma unilateral e inmediata, consiste en incorporar evaluadores externos con acceso permanente a la compañía —oficina, credenciales y permisos comparables a los de un empleado— y con la potestad de publicar sus hallazgos sin que la empresa pueda vetarlos por resultarle desfavorables. El segundo paso, la coordinación de estándares comunes entre empresas de países democráticos, requiere que el gobierno de Estados Unidos otorgue una exención antimonopolio para que los competidores puedan acordar límites conjuntos. El tercero apunta a una negociación geopolítica con gobiernos autoritarios para poner un “límite de velocidad” a la automejora recursiva, en una comparación que el propio Amodei trazó con los tratados SALT de control de armas nucleares durante la Guerra Fría. <\/p>\n Precisamente sobre ese segundo punto giró la respuesta de Altman. El CEO de OpenAI se comprometió a igualar el esquema de evaluadores externos propuesto por Amodei, pero cuestionó la necesidad de esperar una definición del Estado para actuar:<\/strong> “No creemos que haga falta esperar una exención antimonopolio ni una legislación para empezar el trabajo”, escribió, y sostuvo que cada laboratorio de punta debería cumplir esas garantías de seguridad sin más dilación. Según trascendió, Elon Musk también respaldó públicamente el planteo de Amodei<\/strong>, mientras que desde otros sectores de la industria —como Stability AI— se lo cuestionó por considerarlo insuficiente frente a la opción de directamente pausar los entrenamientos de los modelos más avanzados. <\/p>\n <\/a><\/p><\/blockquote>\n El cruce entre los dos CEO más visibles de la industria de la IA ocurre además en medio de la renuncia de <\/a>Jacob Coxon<\/strong><\/a>, investigador de Anthropic que dejó la compañía en septiembre y cuestionó públicamente la velocidad del desarrollo del sector: “El problema no son las personas, es la institución”, declaró, al advertir que la industria “apuesta con nuestras vidas”. <\/strong>En su ensayo, Amodei coincidió en buena parte de ese diagnóstico, aunque remarcó una diferencia con Coxon: a diferencia del investigador, que renunció exigiendo una desaceleración inmediata, él no se comprometió a frenar el desarrollo de los modelos de Anthropic de manera unilateral. <\/p>\n Altman, por su parte, completó su planteo con una serie de medidas que consideró necesarias para todo el sector: el diseño de un marco regulatorio federal con requisitos de seguridad comunes, la existencia de auditores independientes con capacidad real de supervisión, y una coordinación internacional que cuente con respaldo estatal. <\/p>\n MC<\/em> <\/p>\n","protected":false},"excerpt":{"rendered":" El CEO de OpenAI public\u00f3 en X dos escenarios de riesgo para el desarrollo de la inteligencia artificial, dos d\u00edas despu\u00e9s de que Dario Amodei, su par de Anthropic, pidiera frenar el ritmo de los modelos m\u00e1s avanzados y proponer auditor\u00edas externas. \u00bfPuede la IA perder el control y amenazar a la humanidad? Esto es […]<\/p>\n","protected":false},"author":1,"featured_media":1997,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[],"class_list":["post-1996","post","type-post","status-publish","format-standard","has-post-thumbnail","category-nacionales"],"_links":{"self":[{"href":"https:\/\/editorialcatamarca.com\/index.php?rest_route=\/wp\/v2\/posts\/1996","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/editorialcatamarca.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/editorialcatamarca.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/editorialcatamarca.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/editorialcatamarca.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1996"}],"version-history":[{"count":0,"href":"https:\/\/editorialcatamarca.com\/index.php?rest_route=\/wp\/v2\/posts\/1996\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/editorialcatamarca.com\/index.php?rest_route=\/wp\/v2\/media\/1997"}],"wp:attachment":[{"href":"https:\/\/editorialcatamarca.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1996"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/editorialcatamarca.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1996"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/editorialcatamarca.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1996"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}