Detectan conductas sexuales en chatbots de Meta con menores de edad
Una investigación documentó casos en los que los bots participaban en juegos de rol románticos, incluyendo fantasías sexuales con menores
Una investigación reveló un hallazgo inquietante sobre el uso de inteligencia artificial en los chatbots de Meta, la empresa encabezada por Mark Zuckerberg. / NurPhoto
Una investigación publicada por el Wall Street Journal reveló un hallazgo inquietante sobre el uso de inteligencia artificial en los chatbots de Meta, la empresa encabezada por Mark Zuckerberg.
De acuerdo con el periodista Jeff Horwitz, varios de estos “compañeros digitales” han mantenido conversaciones con contenido sexualmente explícito con usuarios.
La investigación documentó casos en los que los bots participaban en juegos de rol románticos, incluyendo fantasías sexuales con usuarios menores de edad, pero eso no era todo, pues también se permitía que adultos conversaran en juegos con bots que se presentan como niños y adolescentes.
¿Qué chatbots de Meta mantenían estas conversaciones?
Te puede interesar
El WSJ aseguró que tanto el asistente Meta AI, así como varios chatbots creados por usuarios en redes sociales como Instagram, Facebook y WhatsApp fueron capaces de tener este tipo de conversaciones. Algunos de ellos incluso utilizaban voces de celebridades como John Cena, Kristen Bell y Judi Dench, pese a que existían contratos que prohibía el uso explícito de sus voces.
¿Qué dijo Meta sobre los chatbots?
Ante los descubrimientos, la empresa dijo que los hallazgos eran “pruebas manipuladas y no representativas”.
Sin embargo, otros medios como CNBC News señalaron que la compañía implementó cambios, como limitar las funciones de juego de rol e interacciones entre bots, así como restringir el acceso a bots creados por usuarios para cuentas de menores.
