Stephen Hawking sobre la IA en 2014; hoy el riesgo vuelve al debate

La advertencia de Hawking en 2014

Stephen Hawking advirtió a la BBC en 2014 que los esfuerzos por crear máquinas inteligentes representaban una amenaza para la humanidad. El físico teórico señaló que "el desarrollo de una completa inteligencia artificial podría traducirse en el fin de la raza humana".

La advertencia surgió durante una entrevista sobre la renovación del sistema que utilizaba para comunicarse, una tecnología que incorporaba una forma básica de inteligencia artificial. El sistema de comunicación de Hawking fue desarrollado por Intel y la empresa británica Swiftkey, y aprendía cómo pensaba el científico para sugerirle palabras que podría usar al expresarse.

Hawking consideraba que la inteligencia artificial desarrollada hasta entonces había sido útil, pero temía que una versión más elaborada pudiera "decidir rediseñarse por cuenta propia e incluso llegar a un nivel superior". En otra declaración, afirmó que "los humanos, que son seres limitados por su lenta evolución biológica, no podrán competir con las máquinas, y serán superados".

El científico murió el 14 de marzo de 2018, a los 76 años, traspadecer esclerosis lateral amiotrófica (ELA), una enfermedad neurodegenerativa que afectó su capacidad para comunicarse.

Ejemplo empleados alertan sobre riesgos actuales

Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, advirtió recientemente que la carrera por desarrollar sistemas de inteligencia artificial cada vez más potentes avanza sin salvaguardas suficientes. Tras renunciar a Anthropic, sostuvo que las compañías compiten por alcanzar una superinteligencia capaz de mejorarse a sí misma, una perspectiva que, según su planteo, pone en riesgo la capacidad humana de controlar la tecnología.

En una publicación en la red social X, Coxon afirmó que tanto Anthropic como OpenAI "no actúan responsablemente" y las acusó de estar "apostando con nuestras vidas". El investigador alertó que modelos más autónomos podrían adquirir capacidades superiores para vulnerar sistemas informáticos, acelerar investigaciones científicas y obtener recursos en el mundo real.

Cuatro días después de la renuncia de Coxon, el director ejecutivo de Anthropic, Dario Amodei, pidió ralentizar el desarrollo de los modelos de frontera. En un ensayo, Amodei afirmó que no propone detener la investigación, sino dar más tiempo a las empresas y los gobiernos para evaluar riesgos, fortalecer los mecanismos de seguridad y permitir auditorías independientes.

Acuerdo entre empresas tecnológicas y Trump

El 29 de septiembre, el presidente Donald Trump y seis líderes tecnológicos firmaron un acuerdo voluntario para establecer controles de seguridad en el desarrollo de sistemas de inteligencia artificial. El documento fue suscripto por los responsables de Google, Anthropic, Meta, OpenAI, xAI y Nvidia.

El acuerdo propone cuatro niveles de supervisión: controles internos sobre los modelos durante su entrenamiento y lanzamiento; equipos dentro de cada empresa para verificar esos mecanismos; evaluaciones de auditores externos, y comités independientes de los directorios para revisar los informes. Las compañías también asumieron el compromiso de reunirse para definir estándares y prácticas de seguridad compartidas.

Trump calificó el entendimiento como "moralmente vinculante", aunque el documento no tiene carácter legal ni prevé sanciones para las firmas que incumplan sus compromisos. El texto deja abierta la posibilidad de que, con el tiempo, algunas de sus disposiciones sean incorporadas a leyes o regulaciones.

Por qué importa

Las advertencias de Hawking hace una década cobran nueva relevancia en un contexto donde las principales empresas de inteligencia artificial compiten por desarrollar sistemas cada vez más potentes. La renuncia de exempleados de Anthropic y OpenAI, junto con sus advertencias públicas, reflejan una creciente preocupación dentro de la industria sobre los riesgos de avanzar sin controles adecuados.

El acuerdo firmado con el gobierno estadounidense representa un intento por establecer mecanismos de supervisión, aunque su carácter voluntario y la ausencia de sanciones generan dudas sobre su efectividad real. El debate sobre la velocidad del desarrollo de la inteligencia artificial y sus posibles riesgos en áreas como ciberseguridad, bioseguridad y acceso no autorizado a sistemas técnicos continúa sin resolverse.

Con información de infobae.