La alucinación de la IA de Snapchat causó un susto de privacidad

Snapchat mi IA funcionalidad, lanzado el 31 de mayo, tiene dejó millones de su usuarios ansiosos después de eso se volvió rebelde 15 de agosto Tel patea, impulsado por ChatGPT de OpenAI, publicó una historia solo y luego inusualmente dejó de responder a todas las preguntas después—un ejemplo de cómo la IA puede a veces alucina.

mi IA característica permite Snapchat usuarios para enviar el bot textos instantáneos de los suyos, para recibir una respuestami IA generativa robot. De esta manera el bot puede conversar con los usuarios y dar sus recomendaciones.

Sin embargo, a principios de esta semana, el bot publicó una imagen plana con dos tonos, que muchos usuarios tomado para los techos de su casas Cuando, preocupados por su privacidad, cuestionaron al bot, la única respuesta fue: «Lo siento, me encontré con un problema técnico».

EL historia, que luego fue borrado confundido usuarios sobre cómo es Snapchat integrado La función AI realmente funciona. Instantáneo funcionarios se apresuraron a Aponer preocupaciones, llamando al incidente una falla no es un ejemplo de EL bot trabajando solo. «Mi IA experimentó una interrupción temporal, que ahora está resuelta», dijo uno dijo un portavoz a CNN.

¿Qué?fr una IA aparece espontáneamente con información o comportamiento aberrante, se dice que es «alucinante». El CEO de Google, Sundar Pichai, llamó a este aspecto de la IA una «caja negra» después de uno de los modelos de IA de la compañía se enseñó a sí mismo un nuevo idioma. Para las empresas que utilizan IA generativa, esta imprevisibilidad establecido un problemacomo Snap descubrió esta semana.

Instantáneo tiene antecedentes de vulneración de los derechos de protección de datos

Como plataforma social, Snapchat nunca se ha opuesto a la introducción de nuevas características a usuarios discretamente o, Algunas veces sin su conocimiento. En 2016, un atacante cibernético que se hizo pasar por Instantáneo director ejecutivo ejecutivoun Spiegel exhibido en datos de nómina de aproximadamente 700 empleados de la empresa. El año siguiente, Instantáneo inadvertidamente reveló cómo podía instalar reconocimiento de imagen AI seguro dispositivos de usuario sin comprometer el tamaño y la funcionalidad de la aplicación. En 2019, ex empleado anónimo de Snap reveló que los empleados podían acceder a los detalles y el contenido del usuario a través de una herramienta interna llamada SnapLion.

La «falla» de esta semana provocó furiosas críticas de los usuarios, quienes exigieron que Snapchat elimine su función My AI, que permanece fijada en la parte superior del hilo. Snapchat no ofrece ninguna opción para eliminar o desactivar la función. jél está tomando ya había planteado preocupaciones de seguridad unos días después de su lanzamiento, cuando los revisores descubrieron que que a veces respondió inapropiadamente a los mensajes. En respuesta, Snap había agregado más protecciones y controles parentales.

In / A reseña publicada en junioa penas un mes después de la del bot lanzamiento, Snap dijo que más de 150 millones de personas ya había enviado 10 mil millones de mensajes a My AI, lo que lo convierte en uno de los más traficados Los principales chatbots del mundo. Pero la «falla» de la IA solo subraya EL problemas de seguridad de datos alrededor del bot, especialmente alrededor cómo utiliza los datos que recopila de millones de usuarios adolescentes todos los días.