DIW, 20/04/2023
Por Arooj Ahmed
De acordo com uma investigação recente, o Aprendizado de Máquina (ML) tem o potencial de ajudar, identificar e marcar "textos perigosos no Instagram", sem prejudicar o espaço privado dos consumidores.
Os pesquisadores prepararam um algoritmo baseado em ML para reconhecer textos inseguros analisando o conteúdo das mensagens enviadas entre indivíduos. Ele foi capaz de identificar textos que continham conteúdo potencialmente suscetível ou arriscado, como aqueles ligados a automutilação ou suicídio, com alto grau de precisão.
Para proteger o espaço privado dos consumidores, o algoritmo foi preparado para analisar o conteúdo das mensagens sem realmente lê-las. Em vez disso, analisou os metadados, como o tamanho do texto, a hora do dia em que foi enviado e o número de destinatários.
A investigação analisou mais de dezessete mil textos pessoais de mais de 170 consumidores. Com 87% de precisão, o algoritmo foi bem-sucedido em determinar os textos inseguros.
Os pesquisadores também descobriram que sua criação foi capaz de identificar textos que continham conteúdo suscetível, mesmo quando os consumidores não usam diretamente as palavras/textos reais. Isso sugere que o algoritmo pode ser eficaz na identificação de mensagens arriscadas, mesmo quando os usuários estão tentando ocultar suas verdadeiras intenções.
O uso do ML para destacar esses tipos de textos em uma plataforma de mídia social pode ter implicações significativas para a saúde mental e medidas de prevenção do suicídio. Também pode ajudar a identificar pessoas que podem precisar de apoio ou intervenção.
No entanto, os investigadores registraram que ainda existem desafios significativos para implementar todas essas coisas para esse fim. Por exemplo, o algoritmo pode destacar textos que não são arriscados, levando a falsos positivos e intervenções potencialmente desnecessárias. Além disso, eles reconheceram que pode não ser capaz de identificar todas as mensagens perigosas, principalmente aquelas que usam linguagem altamente codificada ou são enviadas em mensagens privadas.
No geral, o estudo sugere que o ML pode ser uma ferramenta valiosa para identificar textos inseguros no Instagram e outras plataformas de mídia social. Ao preservar a privacidade dos consumidores e ainda sinalizar textos potencialmente prejudiciais, esses algoritmos podem ajudar a melhorar a saúde mental e os esforços de prevenção do suicídio na era digital.
Artigos recomendados: Censura e Controle
Fonte:https://www.digitalinformationworld.com/2023/04/new-technology-uses-ai-to-specify.html#
Nenhum comentário:
Postar um comentário