H. Cd. Chihuahua.- Tyler Winklevoss, empresario tecnológico conocido por su histórica disputa con Mark Zuckerberg, entró al debate sobre cómo hacer más segura la inteligencia artificial al recurrir a una referencia de la ciencia ficción. En una publicación, sostuvo que las preocupaciones actuales sobre los riesgos de la IA ya habían sido planteadas por el escritor Isaac Asimov en la década de 1940, en particular mediante sus famosas Leyes de la Robótica. Winklevoss planteó que los principales laboratorios de IA podrían incorporar principios similares directamente en sus modelos.
La propuesta surge en medio de una discusión más amplia dentro de la industria tecnológica sobre hasta dónde debe llegar la regulación y qué medidas deberían adoptar las empresas para reducir posibles riesgos. Mientras algunos líderes del sector han planteado la necesidad de avanzar con mayor cautela y establecer mecanismos coordinados de seguridad, Mark Zuckerberg ha defendido que los propios laboratorios tienen incentivos y responsabilidad para desarrollar sistemas seguros. Meta también ha señalado que utiliza evaluadores independientes para revisar distintos aspectos de sus sistemas de inteligencia artificial.
Sin embargo, las ideas de Asimov pertenecen al terreno de la ficción y trasladarlas directamente a los sistemas actuales de IA presenta importantes desafíos. Investigaciones recientes del Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) señalan que ningún conjunto fijo de reglas puede garantizar por sí solo una protección completa frente a instrucciones diseñadas para evadir las medidas de seguridad. El organismo plantea que la protección de los modelos requiere evaluaciones constantes, búsqueda de nuevas vulnerabilidades y actualización continua de las barreras de seguridad.(En Blanco y Negro)
