1
energia
O que é energia?
comentários 0
A OpenAI afirma ter uma ferramenta capaz de descobrir casos em que geradores de texto de IA foram usados. Será que algum dia verá a luz do dia?
A OpenAI criou uma ferramenta inteligente para detectar a escrita criada pelo ChatGPT, mas eles estão pensando duas vezes sobre liberá-la para o mundo – porque, por que dar um tiro no próprio pé?
Este detetive de IA segue o fim de seu AI Text Classifier anterior, que foi reprovado em sua avaliação de desempenho e falhou em vários experimentos. Recém-saído da prancheta, no entanto, o OpenAI está se vangloriando de uma tecnologia “altamente precisa” método de marca d'água de texto enquanto avalia os prós e os contras de divulgá-lo ao público.
O dilema? Eles temem que a ferramenta possa estigmatizar injustamente falantes não nativos de inglês usando IA para escrever ajuda. A explicação menos nobre (e mais provável) é que os seniores da empresa saberão que a natureza secreta das ferramentas de geração de texto os ajuda a proliferar. As pessoas são preguiçosas e não gostam de ser expostas por isso.
Acontece @OpenAI desenvolveu uma ferramenta quase perfeita para capturar a escrita do ChatGPT e está pronta para ser copiada há cerca de um ano, por @WSJ.
…Então, por que vocês chamaram os detectores de IA de causa perdida em uma postagem de blog de agosto de 2023? pic.twitter.com/6O7kuR1pdz-Molly Liebergall (@LiebergallMolly) 7 de agosto de 2024
Além disso, mesmo que a OpenAI quisesse lançá-la, nenhuma ferramenta pode ser totalmente infalível. Usuários astutos poderiam evitar a detecção traduzindo o texto, reformulando-o com outra IA ou até mesmo adicionando caracteres especiais antes de excluí-los posteriormente.
Os primeiros experimentos com metadados são muito mais confiáveis, já que o código supostamente conterá fortes indicadores do uso de IA, mesmo depois de modificado. Talvez a empresa de propriedade da Microsoft esteja fazendo engenharia reversa apenas para sua tranquilidade.
À medida que a influência da IA cresce continuamente no mundo do conteúdo, eles vão querer saber por si próprios onde a sua tecnologia está sendo aproveitada. Quanto a uma divulgação pública... certamente eles estão blefando.
Embora a detecção de texto esteja aparentemente em segundo plano, a OpenAI está elaborando planos para detectar conteúdo audiovisual gerado por IA, o que apresenta riscos mais óbvios nesta fase.
Eles estão aderindo ao movimento de metadados C2PA, que atribui uma etiqueta de origem ao conteúdo que sobrevive às edições e torna mais difícil falsificar a autenticidade. TikTok e Adobe estão entre aqueles que empregam as mesmas salvaguardas.
Eu odeio que agora, toda vez que vejo uma imagem (foto, arte, etc.), desenvolvi o hábito de digitalizá-la automaticamente em busca de sinais de IA – dedos extras, coisas que não fazem sentido, aquela sensação excessivamente brilhante/falsa , etc. Eu gostaria de não ter que ficar atento para ver se é falso ou não.
— Sorrel Mamí 🇧🇧✨ (@xcarliebimx) 16 de fevereiro de 2024
DALL-E, OpenAI's gerador de imagem, em breve incorporará metadados C2PA, assim como seu próximo gerador de vídeo 'Sora'. A ideia é que, embora as pessoas ainda possam criar conteúdo e propaganda enganosos, elas não conseguem esconder os sinais de alerta levantados pelos metadados.
A OpenAI também anunciou uma solução de marca d'água resistente a violações para imagens, convidando laboratórios de pesquisa e organizações de jornalismo sem fins lucrativos para experimentar. Esta ferramenta apresenta uma taxa de sucesso de 98% na identificação de imagens DALL-E 3, com uma taxa mínima de falsos positivos.
Por último, a detecção de áudio está no radar da OpenAI com seu novo ‘Voice Engine’ supostamente capaz de detectar IA mesmo nas amostras mais convincentes. Com ferramentas como essas, você presumiria que seria o fim das faixas falsas de Drake aparecendo no Spotify.
A OpenAI está compreensivelmente relutante em permitir que empresas e negócios coloquem as mãos em seu detector de texto de IA. No entanto, sente-se a necessidade de proteger o cenário digital antes que a IA ultrapasse o conteúdo online criado pelo homem.
