Febre na internet, robô capaz até de escrever livros pode causar danos; Veja seis coisas perigosas do ChatGPT

A OpenAI admite que nem todas as informações encontradas no ChatGPT estão corretas, já que a ferramenta é alimentada com diferentes conteúdos da Internet. Além de não mostrar a fonte de suas respostas – o que dificulta a checagem do conteúdo –, o ChatGPT ainda pode contribuir para disseminar desinformação. Isso porque o chatbot é alimentado com conteúdos publicados somente até o ano de 2021. Ou seja, para responder às perguntas dos usuários, o software trabalha apenas com notícias, artigos e tuítes desatualizados, que foram disponibilizadas na web há mais de um ano.

Em teste feito pelo jornal O Globo, quando questionado sobre quem venceu as Eleições de 2022, o ChatGPT respondeu que o atual presidente do Brasil é Jair Messias Bolsonaro. Quando se perguntou sobre Luiz Inácio Lula da Silva, atual chefe do Executivo, a tecnologia apenas disse que ele presidiu o país entre 2003 e 2011.

O robô da OpenAI pode reproduzir preconceitos como racismo e machismo. Uma das hipóteses para isso é o fato de o software ter sido treinado com diferentes conteúdos disponíveis na Internet, incluindo posts em redes sociais com discurso de ódio. Vale lembrar que a própria OpenAI já fez alertas sobre a capacidade do ChatGPT de “produzir instruções prejudiciais ou conteúdo tendencioso”.

Este, aliás, não é um problema exclusivo do chatbot, e acontece com muitas outras inteligências artificiais treinadas por aprendizado de máquina. Como se alimentam de informações produzidas por humanos, que têm seus próprios preconceitos, as IAs podem facilmente apresentar resultados enviesados.

Outro risco proporcionado pelo robô é aumentar a incidência de plágios, já que a ferramenta pode ser usada para escrever trabalhos escolares e acadêmicos. Existem, contudo, plataformas que permitem detectar se um texto foi escrito pelo ChatGPT. É o caso do OpenAI Detector (https://huggingface.co/spaces/openai/openai-detector), que é gratuito, mas ainda está em desenvolvimento.

Ainda assim, os conteúdos desenvolvidos pelo robô podem passar despercebidos por outros programas. Isso acontece porque o texto é feito a partir de vários outros textos disponíveis no banco de dados da inteligência artificial — ou seja, ele não é copiado inteiramente de uma única fonte. Para conseguir perceber o plágio, é preciso prestar atenção em algumas falhas deixadas pelo software, como a falta de referências externas ou a aparição de informações incoerentes.

De acordo com reportagem do jornal norte-americano The New York Times, o ChatGPT tem sido utilizado por alunos de escolas de Nova York e Seattle, tanto em salas do ensino fundamental quanto do ensino médio, para resolver tarefas e desenvolver trabalhos. Para evitar o mau uso da tecnologia, algumas escolas, inclusive, já proibiram o robô no Wi-Fi da instituição.

Um dos diferenciais do ChatGPT é a sua alta capacidade de interagir com os usuários e reproduzir, de forma muito fidedigna, a escrita e o estilo de linguagem humanos. Isso, no entanto, faz com que o robô pareça que está certo mesmo quando está errado. Outros chatbots, quando se deparam com uma pergunta cuja resposta não conhecem, informam ao usuário sobre o desconhecimento sobre o assunto. O ChatGPT, pelo contrário, é capaz de formular respostas com lógica e aparente coerência, o que pode enganar vários internautas e contribuir ainda mais com a disseminação de desinformação.

Fonte – TechTudo