O ChatGPT da OpenAI está conquistando o mundo atualmente.
Os modelos de linguagem que alimentam o serviço são tão bons que pode ser difícil detectar se algo (seja uma postagem de mídia social ou um artigo de blog) foi criado com o ChatGPT ou por um ser humano.
Também houve preocupações sobrese o Google pode detectar ChatGPTe discussões ao redorse o conteúdo de IA, em geral, é contra as diretrizes do Google(não é...).
Mas o texto vindo do ChatGPT pode ser detectado?
A resposta curta é sim.
Para testar isso, cada um dos seguintes detectores abaixo forneceu o mesmo prompt e texto.
O texto gerado pela IA foi:
“Existem várias maneiras de detectar se um modelo de linguagem como o ChatGPT gerou um texto. Uma abordagem seria usar técnicas de aprendizado de máquina para treinar um modelo para reconhecer o estilo de escrita e os padrões específicos do modelo de linguagem. Isso pode incluir a análise da estrutura, gramática e vocabulário usados no texto. Outra abordagem seria comparar o texto com um grande conjunto de dados de saídas conhecidas do ChatGPT e procurar semelhanças. Além disso, pode-se incorporar informações como a presença de tokens ou padrões específicos no texto gerados pelo modelo de linguagem”.
Exploramos algumas ferramentas diferentes e como elas funcionam abaixo;
ATUALIZAR;Nós construímos o nosso próprioDetector AI, que pode verificar AI geral e ChatGPT. Experimente, é grátis!
10 ferramentas de detecção do ChatGPT
Existem cada vez mais ferramentas surgindo.
Reunimos 10 exemplos de ferramentas e os levamos para dar uma volta.
Eles são todos gratuitos, então você pode testá-los em seu próprio texto, se quiser;
1. SEO.ai
O detector de IA desenvolvido pela SEO.ai emprega uma fusão sofisticada de quatro modelos de detecção de ponta, cada um especificamente treinado para avaliar texto com base em previsão, entropia, correlação e perplexidade.
O detector tem uma alta taxa de sucesso na identificação de conteúdo gerado por algoritmos GPT, incluindo artigos de formato longo produzidos com ChatGPT, GPT-3.5 e GPT-4.
URL:https://seo.ai/detector
2. Vazamentos
O Copyleaks AIdetector pode detectar conteúdo gerado por algum bot de texto AI, incluindo ChatGPT.
O detector da Copyleaks não passou no teste devido ao resultado. Afirma que o texto dado foi escrito por um humano - não é!
URL:https://copyleaks.com/features/ai-content-detector
3. GPTZero
O GPTZero foi criado pelo estudante universitário de 22 anos, Edward Tian. Ele determina o clima ou não, um texto é criado por uma IA usando dois fatores: "Perplexidade" e "explosão". A perplexidade mede a complexidade do texto; se GPTZero estiver perplexo com o texto, então ele tem uma alta complexidade e é mais provável que seja escrito por humanos.
O detector do GTPZero não passou no teste. Ele afirma que é provável que seja escrito por humanos.
URL:https://etedward-gptzero-main-zqgfwb.streamlit.app
4. Detector de Saída GPT-2
O detector de saída GPT-2 classifica em uma escala de 0 a 100 se o texto for escrito por um AI.
O detector do detector de saída GPT-2 passou no teste. Ele afirma que o texto provavelmente foi gerado por IA.
URL:https://openai-openai-detector.hf.space
5. Poema De Citações
Esta ferramenta de detecção de conteúdo do ChatGPT ajuda a identificar se o conteúdo foi escrito por um humano ou pelo ChatGPT. Sua versão gratuita, baseada em seus algoritmos, informa apenas se o texto é escrito por um humano ou não.
O detector PoemOfQuotes não passou no teste, pois acha que foi escrito por um humano.
URL:https://www.poemofquotes.com/tools/chatgpt-content-detector.php
6. Corretor
Corrector é uma ferramenta online rápida e gratuita com um máximo de 300 palavras por execução.
O detector corretor passou no teste, pois acha que é um texto gerado por IA.
URL:https://corrector.app/ai-content-detector/
7. Conteúdo em escala
Content at Scale AI Content Detection é uma ferramenta que permite aos usuários verificar a autenticidade de seu conteúdo escrito. Ele fornece uma pontuação de 100 para indicar a qualidade humana do conteúdo e a probabilidade de ser detectado como artificial pelo Google.
O detector de conteúdo em escala passou no teste, pois acha que é mais provável que seja escrito por IA do que por humanos.
URL:https://contentatscale.ai/ai-content-detector/
8. Roberta OpenAI Detector - Huggingface
Roberta OpenAI Detector é um classificador que pode ser usado para detectar texto gerado por modelos GPT-2. Pode fornecer resultados imprecisos no caso de entrada gerada pelo ChatGPT.
Roberta OpenAI Detector também passou no teste, pois acha que é um texto gerado por IA.
URL:https://huggingface.co/spaces/Jaydott14/jaydott14-openai-detector1
9. Detector ChatGPT - Huggingface
O ChatGPT Detector pode detectar se um pedaço de texto é gerado pelo ChatGPT, usando recursos linguísticos ou usando classificadores baseados em PLM.
O detector ChatGPT também passou no teste, pois acha que foi escrito por IA.
URL:https://huggingface.co/spaces/Hello-SimpleAI/chatgpt-detector-single
10. GLTR
GLTR é uma abreviação de “Giant Language model Test Room”. GLTR é treinado para prever a próxima palavra dado um contexto de entrada.
O detector do GLTR afirma que é mais provável que seja escrito por IA do que por humanos.
URL:http://gltr.io/dist/index.html
11. Escritor
Writer AI Content Detector é uma ferramenta gratuita desenvolvida pela Writer.com. A ferramenta foi projetada para ajudar os usuários a detectar conteúdo escrito por IA gerado por uma ferramenta de escrita por IA, como GPT-3 ou GPT-2. A ferramenta baseada na web fornece uma pontuação de detecção, indicando a probabilidade de o conteúdo ter sido criado por uma IA.
O detector do Writer não passou no teste, pois acha que é um conteúdo gerado por humanos.
URL:https://writer.com/ai-content-detector/
Cobrimos este tópico um pouco antes sobrese o Google pode detectar texto vindo do ChatGPT.
Quem precisaria de um detector ChatGPT?
Então, quem estaria interessado em dissecar se um LLM ou uma pessoa faz um texto?
Inicialmente, você pode pensar nas escolas como um dos lugares onde eles gostariam de saber se um aluno usou seu próprio conjunto de habilidades para responder ou não.
E sim, a proibição do ChatGPT e a mudança de computadores para papel e caneta já começaram. (link)
Mas existem muitos tipos diferentes de grupos que podem querer detectar o conteúdo criado pelo ChatGPT;
Vários grupos de pessoas e organizações podem se beneficiar da capacidade de detectar se um modelo de linguagem como o ChatGPT gerou um texto.
- Noárea de segurança da informação, organizações e indivíduos podem usar essa detecção para identificar e combater tentativas de fraude ou representação usando texto gerado por IA.
- Emcomunicação online, as plataformas podem usar essa detecção para impedir a disseminação de desinformação ou spam gerado pela IA.
- dentro dejornalismo e mídia, verificadores de fatos e editores podem usar essa detecção para identificar e rotular o conteúdo gerado por IA e garantir que os leitores estejam cientes de sua origem.
- EmEducação,escolas e universidades podem usar essa detecção para garantir que os alunos estejam usando suas habilidades e conhecimentos para concluir tarefas e exames, em vez de depender de conteúdo gerado por IA.
A própria resposta do ChatGPT sobre como o ChatGPT pode ser detectado;
Então, perguntei ao ChatGPT quais eram as diferentes maneiras pelas quais um texto poderia ser identificado como vindo do ChatGPT.
A resposta;
Existem várias maneiras de detectar se um modelo de linguagem como o ChatGPT gerou um texto.Uma abordagem seria usar técnicas de aprendizado de máquina para treinar um modelo para reconhecer o estilo de escrita e os padrões específicos do modelo de linguagem. Isso pode incluir a análise da estrutura, gramática e vocabulário usados no texto.
Outra abordagem seria comparar o texto com um grande conjunto de dados de saídas conhecidas do ChatGPT e procurar semelhanças.
Além disso, pode-se incorporar informações como a presença de tokens ou padrões específicos no texto gerado pelo modelo de linguagem. (citar)
Em outras palavras, o aprendizado de máquina pode observar um texto para ver se ele pode reconhecer um padrão ou analisar a análise estatística para ver a probabilidade de palavras serem usadas.
Mergulhamos um pouco mais fundo em nosso artigo sobreDetecção Google e ChatGPT.
Como tornar o texto do ChatGPT indetectável
À medida que a tecnologia avança, também aumenta a capacidade de detectar conteúdo gerado por IA.
No entanto, é importante observar que pessoas criativas sempre encontrarão maneiras de contornar as ferramentas de detecção.
Por exemplo, o conteúdo gerado por IA pode ser modificado para parecer mais humano, tornando-o mais difícil de detectar.
Você pode até pedir ao ChatGPT para escrever mais humano ou torná-lo menos provável de ser detectado por um detector do ChatGPT.
Então, vamos fazer um exemplo disso e ver se é possível.
Peguei o texto destacado acima, onde o ChatGPT responde como poderia ser detectado.
Isso marca 96% de "falso" em um dos detectores e, portanto, claramente não é feito pelo homem.
E eu solicitei o ChatGPT e tentei;
- Reescreva o texto a seguir para que seja mais difícil detectar como proveniente do ChatGPT por um detector do ChatGPT
- Reescreva o seguinte texto. Escreva como um humano, linguagem mais falada, mais quebras de linha
- Parafraseie o seguinte, use palavras aleatórias e palavras raras. Escreva mais como um humano
E embora parte do texto agora tenha se tornado mais criativo, o detector ainda pode identificá-lo como gerado por IA.
Então, fiz uma última tentativa com o comando "Reescrever o seguinte como um humano de 24 anos faria;"
Ele retornou o seguinte;
Então, uma ideia é usar coisas sofisticadas de computador para ensinar um computador a entender como o modelo de linguagem escreve, como a maneira como ele usa palavras e gramática. Outra maneira é comparar o texto com um monte de coisas que o ChatGPT escreveu antes e ver se ele corresponde. E também podemos procurar certas palavras ou padrões que apenas o ChatGPT usa.
E agora a pontuação caiu para indicar que é feito por um humano (61%)
Portanto, é claro que até mesmo o ChatGPT pode produzir texto que é mais difícil de detectar. Mas parece difícil de replicar e tornar constante.
Mas quando o conteúdo gerado por IA é combinado com conteúdo escrito por humanos, torna-se mais difícil de detectar.
E é isso que recomendamos que você faça na maioria das vezes.
Não para evitar a detecção, mas para garantir que o conteúdo seja de alta qualidade com alguma entrada e direção humana.
No entanto, organizações e indivíduos devem permanecer vigilantes e continuar a desenvolver métodos de detecção novos e aprimorados para identificar conteúdo gerado por IA.
O Google está interessado em detectar se o ChatGPT escreve um texto?
O Google está sempre procurando maneiras de apresentar os melhores resultados de pesquisa para seus usuários.
Para fazer isso, eles estão trabalhando para impedir que conteúdo com spam apareça nos resultados da pesquisa. Conteúdo duplicado, plágio eanteriormente também, o que eles chamaram de conteúdo gerado automaticamente.
Isso ocorre porque o conteúdo gerado automaticamente anteriormente pode ser percebido como de baixa qualidade e às vezes é usado para manipular as classificações de pesquisa em vez de ajudar os usuários.
O Google tem tentado detectar e remover esse tipo de conteúdo das páginas de resultados do mecanismo de pesquisa (SERPs) para manter a integridade de seus resultados de pesquisa.
Eles querem se concentrar em conteúdo gerado por humanos de alta qualidade para fornecer uma experiência melhor para os usuários e manter a credibilidade do mecanismo de pesquisa.
Emsuas diretrizes, eles o descrevem dessa maneira;
Conteúdo com spam gerado automaticamente (ou "gerado automaticamente") é o conteúdo que foi gerado programaticamente sem produzir nada original ou agregar valor suficiente; em vez disso, ele foi gerado com o objetivo principal de manipular as classificações de pesquisa e não ajudar os usuários.
No entanto, com o surgimento de novas tecnologias de IA, está se tornando mais difícil diferenciar entre conteúdo gerado por humanos e de IA.
É por isso que a questão de saber se o Google quer diferenciar entre os dois está se tornando menos clara.
Mas o Google afirmou claramente que não é contra o conteúdo de IA, desde que seja útil para os usuários. Eles fizeram isso tão recentemente quanto12 de janeiro de 2023 no Twitter.
Leia mais sobre por que oo equívoco de que o Google é contra o conteúdo de IA ainda está prosperando.
