No Banner to display

Robô é suspenso do Facebook após falas racistas e homofóbicas

Por Gazeta do Cerrado | 13/01/2021

Última atualização em 13/01/2021 13:57

Compartilhar no Facebook! Tweetar! Compartilhar no LinkedIn Enviar por email Compartilhar no Whatsapp

Bot Lee Luda foi criado em dezembro e já acumula mais de 750 mil usuários — Foto: Reprodução/Yonhap News

Um chatbot coreano instalado no Facebook Messenger foi temporariamente suspenso nesta terça-feira (12) por ser flagrado enviando falas racistas e discriminatórias durante conversas com os usuários. A personagem Lee Luda, desenvolvida pela startup Scatter Lab, teria enviado vulgaridades e falas ofensivas contra a população LGBTQI+, além de ter praticado discurso de ódio. A empresa desenvolvedora também é acusada de violar a privacidade dos usuários.

As mensagens ofensivas enviadas pelo bot incluíam palavras como “nojento”, para se referir a lésbicas, e “irmão negro”, termo considerado pejorativo na Coreia do Sul, usado para insultar a população chinesa e negra do país. Lee Luda também teria menosprezado pessoas trans em uma resposta, usando a frase “Eca, eu realmente os odeio”.

Chatbok coreano Lee Luda reproduz a imagem de uma jovem de 20 anos — Foto: Reprodução/MK

Chatbok coreano Lee Luda reproduz a imagem de uma jovem de 20 anos — Foto: Reprodução/MK

A personagem Lee Luda foi lançada em dezembro de 2020 e foi projetada para ser uma estudante universitária de 20 anos de idade e fã do grupo feminino de k-pop Blackpink, com grande apelo entre o público adolescente. O robô utiliza inteligência artificial para interagir com os usuários, com um vocabulário composto por mais de 10 bilhões de palavras, criado a partir registros de conversas de um outro aplicativo da empresa.

Em menos de um mês, Lee Luda ganhou popularidade na Coreia devido à sua capacidade de criar conversas naturais e realistas, fornecendo uma experiência semelhante à de falar com uma pessoa real pela rede social. Desde o lançamento, o robô acumulou mais de 750 mil usuários.

Segundo um dos responsáveis pela criação da personagem, Lee Luda foi programada para não aceitar palavras-chave e expressões consideradas problemáticas ou que fossem contra os valores sociais. No entanto, ele afirmou que o sistema possuía limitações, já que utilizava somente um algoritmo que filtrava essas palavras, sendo impossível bloquear todas as conversas inadequadas.

Em nota, a empresa também se desculpou pelo ocorrido. “Luda é uma IA infantil que acabou de começar a falar com as pessoas. Ainda há muito que aprender. Luda vai aprender a julgar o que é uma resposta adequada. Pedimos profundas desculpas pelas observações discriminatórias contra as minorias. Isso não reflete os pensamentos de nossa empresa e estamos continuando as atualizações para que tais palavras de discriminação ou discurso de ódio não se repitam”.

Polêmica sobre privacidade

A Scatter Lab também está envolvida em uma polêmica relacionada a vazamento de dados de usuários, já que criou o vocabulário de Lee Luda a partir de conversas realizadas no aplicativo KakaoTalk, uma espécie de mensageiro semelhante ao WhatsApp. A empresa captou essas conversas através do aplicativo Ciência do Amor, desenvolvido pela companhia com a promessa de analisar o grau de afeto entre os usuários do KakaoTalk.

A questão é que os usuários do Ciência do Amor não foram claramente informados de que suas conversas seriam interceptadas e utilizadas para alimentar o vocabulário de Lee Luda.

Sobre as acusações, a empresa diz que não houve vazamento de dados no serviço e que tentou criar diretrizes claras sobre o uso de informações pessoais, mas que não havia conseguido se comunicar de forma clara com os usuários. “Vamos esclarecer os procedimentos e continuar a lidar melhor com informações confidenciais”, disse a empresa.

Fonte – TechTudo

Acompanhe as redes da Gazeta do Cerrado 24 horas por dia:
Aproveite e siga agora mesmo cada uma de nossas redes, pois cada uma delas possui características próprias e são complementares. Estamos sempre a disposição.
Para denúncias ou coberturas: (63) 983-631-319
Anunciar na Gazeta ou em suas redes sociais: (63) 981-159-796

0 comentários

Participe! Faça seu comentário

Direção

Editora Chefe: Maju Cotrim - @MajuCotrim
[email protected]

Diretor Geral (CEO): Marco Aurélio Jacob - @MarcoJacobBrasil
[email protected]

Presidente do Conselho Deliberativo: Stênio Jacob

Expediente

Sub Editor: Lucas Eurílio

Jornalista: Maju Jacob

Estagiária: Luciane Santana

Colaborador: Fagner Santana

Assistente de Produção: Maitê Sales

TI: Tiago Bega

Contabilidade: Júnior Goes

Juridico: Jacqueline Paiva

Contatos

Para sugestões, correções, críticas ou entrar em contato:

Redação: (63) 984-631-319
[email protected]

Para anúncios ou parcerias comerciais

Comercial (63) 984-571-004
[email protected]

Institucional (63) 981-159-796 (Marco Aurélio)
[email protected]