A Meta, empresa controladora de plataformas como Instagram, Facebook e Messenger, passou a monitorar as conversas de adolescentes em suas redes sociais. O objetivo é identificar sinais de possíveis riscos de suicídio e automutilação, com o intuito de alertar pais e responsáveis quando o sistema detectar comportamentos preocupantes. Essa iniciativa foi anunciada na última quinta-feira (29) e já está disponível para usuários no Brasil que utilizam os recursos de supervisão parental da companhia.
O monitoramento não se restringe apenas às interações diretas com o sistema de inteligência artificial da Meta, mas também abrange pesquisas realizadas pelos jovens em busca de informações relacionadas a suicídio ou automutilação. As notificações sobre riscos são enviadas aos responsáveis, orientando-os sobre como abordar o tema com os adolescentes.
Como funciona o monitoramento?
O sistema de inteligência artificial da Meta foi desenvolvido para identificar mensagens que possam indicar que um adolescente esteja em perigo. Ele analisa as interações do jovem com a Meta AI, buscando por pistas que possam sugerir um risco iminente de automutilação ou suicídio. Quando a IA detecta uma conversa suspeita, essa interação é encaminhada para uma análise humana, garantindo que um profissional revise as mensagens antes de qualquer notificação ser enviada aos responsáveis.
É importante ressaltar que as notificações não divulgam o conteúdo das mensagens ou os termos pesquisados pelos adolescentes, mas sim alertam sobre a possibilidade de risco. A Meta adverte que o sistema pode gerar falsos positivos, especialmente em casos onde as mensagens têm interpretações ambíguas.
Para pesquisas feitas no Facebook e Instagram, os alertas são acionados após repetidas buscas por termos relacionados a suicídio ou automutilação em um curto período. No entanto, a empresa não especificou a quantidade de buscas necessárias para gerar um alerta ou o intervalo de tempo considerado para essa análise.
Os responsáveis podem receber essas notificações por e-mail, SMS, WhatsApp ou diretamente pelos aplicativos da Meta, dependendo das informações de contato que possuem cadastradas.
Ao receber um aviso, os pais terão acesso a informações sobre o risco potencial e dicas de como conversar com seus filhos sobre o assunto. Além disso, serão apresentados recursos de apoio especializados para ajudar na situação delicada.
Quem pode receber os alertas?
Os novos alertas são direcionados apenas a pais e responsáveis que utilizam as ferramentas de supervisão parental oferecidas pela Meta. Isso significa que apenas aqueles com contas vinculadas ao sistema de supervisão poderão receber as notificações, assegurando que os responsáveis tenham um controle adequado sobre as interações de seus filhos com a IA.
Desde abril, a Meta já oferecia uma ferramenta que permitia aos responsáveis visualizar os principais tópicos discutidos pelos adolescentes com a inteligência artificial da plataforma nos últimos sete dias. Com a expansão das notificações de Risco para o Facebook e Messenger, a Meta busca oferecer um suporte mais completo para a proteção dos jovens usuários.
Para mais informações atualizadas, visite digitalmaisseguro.com.
Por que isso importa
Os alertas são enviados apenas a pais e responsáveis que utilizam as ferramentas de supervisão parental nas contas de adolescentes.
O que vem a seguir
Não, as notificações não revelam o conteúdo das mensagens ou os termos pesquisados, apenas alertam sobre potenciais riscos.
:quality(85)/57074658-0a0e-40c4-b881-cf16ee65c749.png)