La compañía ha matizado que se toma “muy en serio la responsabilidad de diseñar productos y experiencias que prioricen la seguridad”
Snapchat ha desarrollado medidas adicionales para su ‘chatbot’ My AI con el objetivo de mejorar la protección de los usuarios y a fin de reducir su exposición a contenidos potencialmente dañinos, para lo que empleará la moderación integrada de OpenAI.
My AI es un ‘chatbot’ impulsado por la tecnología de Inteligencia Artificial (IA) de ChatGPT que la firma definió como “amistoso y experimental” cuando anunció su lanzamiento en febrero de este año. Entonces, puntualizó que esta funcionalidad solo estaba disponible para suscriptores de Snapchat+.
La compañía ha matizado que se toma “muy en serio la responsabilidad de diseñar productos y experiencias que prioricen la seguridad” y que sean adecuadas para la edad de los usuarios de la plataforma.
Con ese objetivo y en base a los resultados que ha obtenido en la fase inicial de esta herramienta con los suscriptores de Snapchat+, Snapchat ha desarrollado medidas adicionales para su ‘chatbot’.
En primer lugar, ha comentado que está en proceso de añadir la tecnología de moderación de OpenAI al conjunto de herramientas existente, gracias a lo cual podrá evaluar la gravedad del contenido potencialmente dañino.
Por otra parte, Snapchat ha recordado que My AI está programado para seguir ciertas directrices que ayuden a garantizar que la información que proporciona no es inapropiada o perjudicial. Esto incluye evitar respuestas violentas que inciten al odio o que sean ofensivas.
Asimismo, ha recordado que, utilizando las herramientas de detección de abuso, introdujo una característica que restringe temporalmente la capacidad de los usuarios para interactuar con esta herramienta de IA generativa en caso de que hagan un uso indebido del servicio repetidamente.
Para que padres y tutores puedan comprobar la actividad de los menores de edad con esta aplicación, la compañía ha comentado finalmente que ofrece la posibilidad de saber si estos se han comunicado con el ‘chatbot’ en los últimos siete días. Esto es posible a través del Centro Familiar.
Por otra parte, ha recordado que las conversaciones con My AI se almacenan y se pueden revisar, “lo que les puede ayudar a aprender y mejorar su funcionalidad”, según una nota de prensa.
My AI y los usuarios menores de edad
Con estas novedades, la plataforma se ha pronunciado meses después de que The Washington Post publicara una investigación en la que se evidenciaba que las respuestas de este ‘chatbot’ no eran apropiadas para los usuarios menores de edad.
Cuando uno de sus periodistas se hizo pasar por una adolescente de 13 años, esta herramienta le ofreció consejos sobre cómo tener relaciones sexuales por primera vez con una persona mayor de edad, así como pistas para eliminar el olor a alcohol y a marihuana durante una fiesta.
Fuente: https://www.fayerwayer.com/moviles/2023/11/10/snapchat-mejora-my-ai-con-moderacion-integrada-para-evaluar-gravedad-de-contenidos-daninos/
