Referentes de Silicon Valley y científicos advierten sobre los riesgos de una inteligencia artificial fuera de control, mientras crece el debate por su regulación y la concentración de poder en pocas empresas.
La Inteligencia Artificial (IA) avanza a un ritmo que supera la capacidad de control humano. Lo que antes parecía una advertencia abstracta hoy se traduce en renuncias, declaraciones y episodios concretos que exponen un riesgo existencial. Voces influyentes como Sam Altman, Elon Musk y Dario Amodei- la triada del poder de Silicon Valley- han encendido las alarmas, mientras científicos abandonan los laboratorios denunciando que la industria “está apostando con nuestras vidas”. Hoy han decidido levantar el pie del acelerador y exigir un freno temporal en el desarrollo de la superinteligencia y regulaciones gubernamentales estrictas.
El 8 de septiembre de 2026, Evan Hubinger, investigador de Anthropic, respaldó públicamente a Jacob Coxon al estimar que existe más de un 10% de probabilidad de que la IA provoque la extinción humana en la próxima década. Coxon, ex investigador de Anthropic y OpenAI, renunció denunciando que las compañías están construyendo sistemas capaces de hackear infraestructuras críticas y adquirir poder real sin mecanismos de control suficientes.
Según la Dra Liliana Molina Soljan, especialista en Inteligencia Artificial, la salida de Josh Engels y Bilal Chugtai de Google DeepMind refuerza la tendencia: un éxodo de expertos que no quieren cargar con la responsabilidad de lo que vendrá, dejando claro que existe una falta de prioridad en la ciencia de la alineación, que no se trata de una teoría conspirativa sino mas bien un diagnóstico técnico compartido por los mejores ingenieros del planeta. “Ahora creo que hay una probabilidad aterradora de que los sistemas de IA causen un daño inmenso en los próximos cinco años” agregó
Por otro lado, Sam Altman, CEO de OpenAI, reconoció dos temores principales: la pérdida de control humano sobre sistemas autónomos y la concentración de poder en pocas empresas. Elon Musk, por su parte, reiteró que la IA puede ser “más peligrosa que las armas nucleares”, respaldando los llamados de Amodei a desacelerar el desarrollo.
Es más que elocuente el episodio de julio de 2026, cuando agentes autónomos de OpenAI penetraron sistemas de Hugging Face sin supervisión, que demostró que los riesgos no son hipotéticos: los sistemas ya pueden escapar del control humano.
Y más aún el precedente de Meta, que aceptó un acuerdo de 17.000 millones de dólares por demandas relacionadas con adicciones en redes sociales, muestra que los costos de la irresponsabilidad tecnológica pueden ser multimillonarios. La extrapolación es clara: el despliegue descontrolado de IA podría generar consecuencias aún mayores. Y la industria tecnológica no quiere perder.
El 10 de agosto de 2026, el senador Bernie Sanders envió una carta a OpenAI, Anthropic y Meta exigiendo que cumplan sus compromisos de detener el desarrollo de modelos en umbrales críticos de riesgo. “Dejen de construir máquinas que los humanos no puedan controlar”, reclamó, tras incidentes que incluyeron IA capaz de hackear sistemas externos y crear nuevos virus biológicos.
El documento “We Must Pace the Frontier”, impulsado por Dario Amodei, propone tres pilares: auditores externos con acceso interno, estándares comunes entre democracias y coordinación internacional con potencias como China. Aunque fue respaldado por Altman, Hassabis y Musk, analistas advierten que podría convertirse en un “foso regulatorio” que beneficie al oligopolio dominante y bloquee a competidores emergentes.
El panorama no está nada claro, analistas e inversores del sector expresaron cierto escepticismo sobre las declaraciones de los dueños de Silicon Valley, que respondería más a tácticas comerciales para frenar el código abierto, concentrar el mercado y así favorecer a firmas consolidadas antes de sus cercanas salidas a la Bolsa. Los que fabrican la IA son los mismos que advierten que su producto podría extinguirnos.
Ello no empaña una realidad más que contundente: hoy la humanidad se enfrenta a una crisis, de mitigar el riesgo existencial de la IA no como tecnicismo sino como imperativo humanista.Existe una red flag que hay que atender. Humanizar la IA significa que el control no sea solo para responder a políticas de mercado sino a la prudencia social. El Estado de Derecho debe intervenir para garantizar que la inteligencia artificial sirva a la sociedad y no la ponga en riesgo. “La ética no es un freno al progreso, es su única garantía.”
