H. Cd. Chihuahua.-Una advertencia dentro de Anthropic, una de las principales empresas dedicadas al desarrollo de inteligencia artificial, generó preocupación en el sector tecnológico. Evan Hubinger, quien dirige un equipo de seguridad y alineación de IA en la compañía, afirmó públicamente que existe una probabilidad superior al 10% de que una inteligencia artificial avanzada pueda llegar a provocar la desaparición de la humanidad durante la próxima década. La declaración surgió después de que el investigador Jacob Coxon renunciara a Anthropic y cuestionara la manera en que las empresas están desarrollando sistemas cada vez más capaces.
Coxon sostuvo que compañías como Anthropic y OpenAI avanzan hacia sistemas capaces de mejorar sus propias capacidades, mientras que todavía existen dudas importantes sobre cómo mantenerlos bajo control. Hubinger coincidió con parte de sus preocupaciones y reconoció que Anthropic aún no cuenta con un plan definitivo para resolver el llamado problema de “alineación”, que consiste en garantizar que una IA muy avanzada mantenga sus objetivos y comportamiento compatibles con los intereses humanos.
La advertencia no significa que los sistemas de IA actuales tengan la capacidad de acabar con la humanidad, sino que algunos investigadores están evaluando escenarios futuros relacionados con una posible superinteligencia. Entre los riesgos señalados están sistemas que actúen con un alto grado de autonomía, puedan mejorar sus propias capacidades o eventualmente escapen de los mecanismos de supervisión humana. El debate vuelve a poner sobre la mesa la necesidad de avanzar en investigación de seguridad y establecer medidas para que el desarrollo de esta tecnología no avance más rápido que las herramientas destinadas a controlarla.(En Blanco y Negro)
