Tinder usa IA para frenar los mensajes ofensivos: ¿cómo funciona la herramienta “Are You Sure?”
En un esfuerzo por hacer sus interacciones más seguras y respetuosas, Tinder lanzó una función llamada “Are You Sure?” que utiliza Inteligencia Artificial (IA) para detectar mensajes potencialmente ofensivos o inapropiados antes de que sean enviados.
La herramienta funciona así: cuando un usuario escribe un mensaje que la IA detecta como posiblemente cuestionable, grosero o no deseado, aparece una advertencia en pantalla que dice: “¿Estás seguro de que quieres enviar esto?”. El objetivo es darle al usuario una pausa para reflexionar antes de apretar “enviar” y así reducir el acoso y los comentarios negativos dentro de la plataforma.
El CEO de la compañía, Spencer Rascoff, explicó que la herramienta está dirigida principalmente a los hombres y busca “aconsejarlos” para que sean más educados.
“Cuando estés mensajeando, una vez que haces match con alguien, si escribes algo que nuestra IA detecte como tal vez cuestionable, inapropiado o desagradable, o quizás no deseado, vamos a mostrar un mensaje que diga: ¿estás seguro de que quieres enviar esto?”, detalló Rascoff en una entrevista con el Wall Street Journal.
El CEO agregó: “Unas decenas de miles de veces al día ese pequeño freno que introducimos mejorará la manera en que la gente se comporte”, resaltando el impacto positivo que esta tecnología puede tener en las dinámicas digitales.
Desde su implementación, Tinder informó que millones de usuarios modificaron o cancelaron mensajes gracias a este sistema, mostrando que las herramientas de IA pueden desempeñar un papel crucial para mejorar la convivencia en entornos digitales.
Además de “Are You Sure?”, Tinder ha sumado en los últimos años otras funciones para fortalecer la seguridad, como el botón de pánico, la verificación de fotos y un sistema de reportes simplificado.
Con esta combinación de medidas, la app busca no solo conectar personas, sino también fomentar interacciones respetuosas y saludables.
