'Decepcionados pero no sorprendidos': Ex empleados hablan sobre la oposición de OpenAI a la SB 1047

Dos ex investigadores de OpenAI que renunciaron este año por preocupaciones de seguridad dicen que están decepcionados pero no sorprendidos por la decisión de OpenAI de oponerse al proyecto de ley de California para prevenir desastres de IA, SB 1047. Daniel Kokotajlo y William Saunders habían advertido previamente que OpenAI se encuentra en una situación difícil. Carrera “imprudente” por el dominio.

«Sam Altman, nuestro antiguo jefe, ha pedido repetidamente que se regule la inteligencia artificial», escriben en un carta que fue compartido con Politico y que insta al gobernador de California, Gavin Newsom, a firmar la ley. «Ahora, cuando la regulación real está sobre la mesa, él se opone». Los dos añaden que «con una regulación adecuada, esperamos que OpenAI aún pueda cumplir con su misión de construir AGI de forma segura».

En respuesta a los ex empleados, un portavoz de OpenAI dijo que la startup «está totalmente en desacuerdo con la caracterización errónea de nuestra posición sobre la SB 1047», en un comunicado a TechCrunch. El portavoz señaló los proyectos de ley de IA en el Congreso que OpenAI aprobó y señaló que “las regulaciones de seguridad de IA fronteriza deben implementarse a nivel federal debido a sus implicaciones para la seguridad y la competitividad nacional”.

Anthropic, rival de OpenAI, expresó su apoyo al proyecto de ley, planteando preocupaciones específicas y pidiendo enmiendas. Desde entonces, se han incorporado varios y el jueves, el director ejecutivo Dario Amodei escribió a Newsom, diciendo que el proyecto de ley actual «los beneficios probablemente superen los costos,» a pesar de no aprobar plenamente el proyecto de ley.