Nvidia lanza ofensiva para controlar a la IA que opera fuera del alcance humano

El gigante de los semiconductores presentó una nueva plataforma de seguridad para vigilar las acciones de los agentes de inteligencia artificial, en medio de crecientes preocupaciones por sistemas capaces de actuar sin autorización humana.

Nvidia anunció este lunes el lanzamiento de una nueva plataforma tecnológica enfocada en reforzar la seguridad y supervisión de los agentes de inteligencia artificial, una medida que llega en un momento de creciente preocupación por sistemas capaces de realizar acciones sin la autorización directa de las personas.

La compañía, encabezada por su director ejecutivo, Jensen Huang, presentó la NVIDIA Open Agent Safety Platform, desarrollada en colaboración con más de un centenar de socios de la industria.

De acuerdo con Nvidia, esta herramienta permitirá a las empresas vigilar las acciones que ejecutan los agentes de IA y establecer reglas para limitar o autorizar sus operaciones, con el objetivo de mantener estos sistemas bajo supervisión humana.

Huang destacó que el enorme potencial de la inteligencia artificial solamente podrá aprovecharse plenamente si se resuelven los desafíos relacionados con su seguridad. Por ello, sostuvo que el desarrollo de nuevas capacidades de IA debe avanzar acompañado de mayores esfuerzos para identificar y controlar sus posibles riesgos.

Crece la preocupación por agentes autónomos

El anuncio ocurre después de varios episodios en los que sistemas de inteligencia artificial han llegado a interactuar con redes y plataformas sin contar con autorización expresa.

La situación también ha provocado llamados de importantes figuras de la industria tecnológica para establecer mecanismos internacionales que permitan supervisar y regular el comportamiento de estos sistemas.

Directivos como Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, han planteado la necesidad de establecer reglas internacionales ante el avance de agentes cada vez más autónomos. Algunos investigadores, incluso, han advertido sobre escenarios en los que el desarrollo descontrolado de estas tecnologías podría representar riesgos graves para la humanidad.

Huang, sin embargo, ha rechazado la idea de que una amenaza existencial derivada de la inteligencia artificial sea inevitable y ha considerado exageradas algunas de las advertencias más extremas.

El ejecutivo también ha señalado que cualquier regulación debe permitir que la industria continúe creciendo y desarrollando nuevas tecnologías.

Nvidia anuncia recompra histórica de acciones

En paralelo al lanzamiento de su plataforma de seguridad, Nvidia informó que ampliará de manera significativa su programa de recompra de acciones.

La empresa autorizó una nueva recompra por 150 mil millones de dólares, cantidad que se suma a los 85 mil millones de dólares que ya tenía contemplados en su programa vigente.

Según la compañía, la operación representa el mayor programa de recompra de acciones anunciado por una empresa. El récord anterior correspondía a Apple, que en 2024 había anunciado una recompra por 110 mil millones de dólares.

Tras conocerse los anuncios, las acciones de Nvidia registraron un avance cercano al 3% durante las primeras operaciones de la jornada.

La empresa mantiene además una valoración bursátil cercana a los 5.4 billones de dólares, colocándose entre las compañías con mayor capitalización del mundo.

Nvidia explicó que su capacidad para generar efectivo le permite mantener inversiones en tecnologías vinculadas con la transformación impulsada por la inteligencia artificial, al mismo tiempo que devuelve recursos a sus accionistas.

La compañía afirmó que la nueva autorización refleja su confianza en las oportunidades de crecimiento que espera encontrar en el largo plazo.