Ciencia Tecnología Innovación
Alertan posible «amenaza directa» que acabaría extinguiendo especie humana
– IA: Dos letras que redefinen el futuro.
La Inteligencia Artificial (IA) encarna tanto las posibilidades y como las ansiedades del porvenir. Sin embargo, mientras algunos disfrutan del espíritu pionero de los últimos avances, a muchos les preocupa que avancemos demasiado rápido y con poca consciencia.
– Lo que la IA podría significar para la humanidad
Un nuevo informe encargado por el Departamento de Estado de Estados Unidos pinta una imagen preocupante de lo que la Inteligencia Artificial podría significar para la humanidad.
– ‘Una amenaza directa de extinción’
El informe, publicado por Gladstone AI, afirma que los sistemas de Inteligencia Artificial más avanzados podrían “representar una amenaza directa de extinción para la especie humana”.
– Un cambio de paradigma peligroso
“El actual desarrollo de la IA plantea riesgos urgentes y crecientes para la seguridad nacional”, sostiene el informe, citado por la revista TIME. “El auge de la IA avanzada tiene el potencial de desestabilizar la seguridad global de maneras que recuerdan al surgimiento de las armas nucleares”.
– Un arma inteligente
Gladstone AI destaca en su sitio web oficial que el informe es la primera evaluación de la proliferación y riesgos de seguridad de la IA como arma.
– Todas las posibilidades de la IA
“La IA ya es una tecnología económicamente transformadora. Podría permitirnos curar enfermedades, hacer descubrimientos científicos y superar desafíos que alguna vez pensamos que eran insuperables”, dijo a CNN Jeremie Harris, director ejecutivo y cofundador de Gladstone AI.
-Perdiendo el control
«Pero la IA también podría conllevar riesgos graves, incluidos riesgos catastróficos, de los que debemos ser conscientes», añadió el director ejecutivo de IA de Gladstone. «Y un creciente conjunto de pruebas sugiere que, por encima de cierto umbral de capacidad, las IA podrían volverse potencialmente incontrolables».
– Una opinión independiente de Washington
CNN comenta que el gobierno de Estados Unidos enfatiza que el informe Gladstone AI no representa los puntos de vista ni las opiniones de Washington, DC.
– ‘Incentivos perversos’
La revista TIME escribe que, según los tres autores del informe, a muchos trabajadores de IA les preocupa que las decisiones tomadas por los altos ejecutivos de sus empresas estén más motivadas por las ganancias, la competencia u otros «incentivos perversos».
– Más de 200 entrevistas
El informe final, explica CNN, llega después de más de 200 entrevistas durante un año con altos ejecutivos de empresas de Inteligencia Artificial, investigadores de ciberseguridad, expertos en armas de destrucción masiva y funcionarios de seguridad nacional del gobierno de Estados Unidos, entre otros.
– Algunos grandes nombres tecnológicos.
Algunos empleados entrevistados trabajan para importantes proyectos de empresas de tecnología como Google DeepMind, Meta, OpenAI y Anthropic.
– Un plan de acción
Sin embargo, no todo está perdido. Gladstone AI también ha desarrollado el primer Plan de Acción gubernamental de su tipo para abordar el riesgo potencial y potencialmente mortal que podría crear la Inteligencia Artificial.
– Un cambio radical para la IA
La revista TIME describe el documento, titulado “Un plan de acción para aumentar la seguridad de la IA avanzada”, como un conjunto de políticas amplias y sin precedentes que, de aprobarse, podrían afectar radicalmente a la industria de la Inteligencia Artificial.
– ¿Agencia Central de Inteligencia Artificial?
Entre otras cosas, el informe recomienda la creación de una nueva agencia federal que se centre únicamente en la regulación de la Inteligencia Artificial.
– Un coro creciente de preocupaciones
Según el diario británico The Daily Mail, el informe encargado por el Departamento de Estado de EE. UU. se suma al coro de voces de la industria, el gobierno y el mundo académico que piden medidas regulatorias más agresivas sobre la Inteligencia Artificial.
– Arquitectos de un futuro inquietante
Por ejemplo, en julio de 2023, la UNESCO expresó su preocupación por el hecho de que tecnologías futuras desenfrenadas, como la Inteligencia Artificial o Neuralink de Elon Musk, alterarán nuestra privacidad mental.
– Vamos a calmarnos un poco
Aunque no podemos detener el tiempo, tal vez haya una manera de tomar cartas en el asunto antes de que sea demasiado tarde y no haya forma de bajar la velocidad.
