Fechar
Pesquisar
Menu Menu

ChatGPT ficou desonesto e não sabemos por quê

Crédito: Thred
By
Londres, Reino Unido
comentários 0
comentários 0

A ferramenta de linguagem generativa da OpenAI ficou completamente confusa na noite passada e suas respostas têm assustado as pessoas. Os desenvolvedores referem-se ambiguamente a este fenômeno como uma “alucinação”. Tranquilizador.

Será que os nossos senhores digitais já estão a preparar a sua invasão em grande escala?

Ontem à noite, usuários do ChatGPT relataram ocorrências de ferramenta de linguagem generativa completamente descontrolada. Consultas simples de usuários geraram divagações estranhas, muitas das quais eram totalmente ininteligíveis e muito longas.

Reunindo-se para compartilhar exemplos no Reddit e no Twitter (X), as pessoas postaram inúmeras capturas de tela de seus encontros bizarros com a IA.

Em um caso, quando solicitado ajuda com um problema de codificação, gerou um alarde confuso e prolongado que incluía a frase misteriosa: 'Vamos manter a linha como se a IA estivesse na sala.'

Em outro, uma pergunta sobre como fazer tomates secos se transformou em: ‘Utilize como amado. Abandone o novo pedaço da sua amada culinária.'

Quem deixou o mano cozinhar?

Uma reminiscência do colapso psicótico de Jack Torrence em O brilho – em que ele digita manicamente “todo trabalho e nenhuma diversão fazem de Jack um garoto chato” por páginas e mais páginas – ChatGPT também respondeu a uma mensagem sobre álbuns de jazz de gritando repetidamente 'Boa audição!' e enviar spam de emojis musicais.

Um tema geral em muitas postagens era que as perguntas geravam jargões multilíngues, nos quais palavras em espanhol, inglês e latim eram estranhamente amalgamadas nas respostas.

Em sua página oficial de status, a OpenAI observou os problemas, mas não forneceu nenhuma explicação sobre o motivo das falhas.

'Estamos investigando relatos de respostas inesperadas do ChatGPT', um atualizar ler, antes de outro logo depois anunciar que o ‘problema foi identificado’. “Continuamos monitorando a situação”, dizia o último post.

Imagem

Alguns sugeriram que a natureza das respostas indica que a OpenAI está brincando com seu recurso de “temperatura”. Conforme indicado anteriormente pela empresa, esta configuração controla o escopo da criatividade com as respostas geradas pelo ChatGPT. Se for alto, em teoria, as respostas seriam mais incomuns e diversas do que estamos acostumados.

Por outro lado, inevitavelmente existem conspirações malucas por aí. Alguns acreditam que, à medida que os modelos de aprendizagem de IA extraem inadvertidamente seu próprio conteúdo da web, eles estão, na verdade, se tornando sencientes até certo ponto, ou pelo menos aprendendo a tomar certas decisões que não esperávamos.

Um recente lidar com Reddit alimentar uma grande empresa de IA sem nome com seu acúmulo interminável de conteúdo gerado pelo usuário apenas alimentará essa noção. Afinal, a Inteligência Artificial Geral, que se esforça para ser mais carismática e pessoal do que a sua antecessora, é a progressão natural para o setor.

A crença de que a IA crescerá rapidamente além do nosso controle foi alimentada no final do ano passado, quando o ChatGPT aparentemente ficou relutante em responder a perguntas. Usuários reclamaram de ousadia e beligerância inesperadas da ferramenta digital, algo que também pode ser visto em um X usuário que perguntou sobre um 'hexágono em Saturno' ontem à noite.

Imagem

“Discutir certos tópicos pode comprometer sua segurança e bem-estar”, alertou o sistema ameaçadoramente. O que as máquinas não nos querem conhecer?

A explicação muito mais sensata – embora menos divertida – é que há alguma falha óbvia na codificação de uma atualização do ChatGPT que foi reconhecida e está atualmente sendo corrigida.

Além disso, como o ChatGPT e o OpenAI têm sido tendências em várias plataformas e fóruns de mídia social, provavelmente não é do interesse da empresa ser específico sobre os detalhes e estragar a diversão.

Qualquer imprensa é uma boa imprensa... desde que a situação não piore ainda mais. Gole.

Editor de Tecnologia Londres, Reino Unido

Sou Jamie (Ele/Ele), o editor adjunto e redator sênior da Thred. Acompanhar as atualizações de mídia social e a tecnologia revolucionária é o meu forte, mas quando estiver longe do teclado, você provavelmente me encontrará envolvido em uma grande explosão de gelo de tango no último filme de terror medíocre. Siga-me Twitter, LinkedIn e me mande algumas idéias / feedback via o email.

Popular

Acompanhe o thred inscrevendo-se no nosso boletim informativo para o planeta positivo!

Mais de thred.

Microsoft sela compra corporativa recorde de energia verde para IA
Crédito: Thred
Equipar

Microsoft sela compra corporativa recorde de energia verde para IA

Oito vezes maior que o recorde anterior, a Microsoft acaba de adquirir a maior quantidade de energia renovável da história para uma única entidade corporativa em um único negócio. Isto garantirá que os seus planos de carbono negativo não sejam prejudicados pelo aumento de projetos de IA. Existem algumas constantes na vida: morte, impostos e a Microsoft investindo seu peso ao fazer aquisições financeiras recordes. O mais recente, pelo menos, é positivo para o planeta neste...

By Londres, Reino Unido
A banda indie ‘Washed Out’ lança o primeiro videoclipe do OpenAI Sora
Crédito: OpenAI
Equipar

A banda indie ‘Washed Out’ lança o primeiro videoclipe do OpenAI Sora

Uma nova música chamada ‘The Hardest Part’ do artista Washed Out foi criada inteiramente usando o Sora da OpenAI, que converte prompts de texto em vídeo realista. O primeiro desse tipo, é ao mesmo tempo impressionante e assustador, dependendo de onde você está. Parece que toda semana escrevemos sobre IA. O uso de prompts de texto para criar conteúdo gerado automaticamente explodiu em popularidade nos últimos dois anos. Onde antes parecia...

By Londres, Reino Unido
Lançado o primeiro concurso de beleza do mundo para influenciadores de IA
Crédito: Thred
Redes Sociais

Lançado o primeiro concurso de beleza do mundo para influenciadores de IA

Na tentativa de combinar ainda mais as tendências emergentes de IA com a realidade, um novo concurso de beleza foi anunciado para influenciadores de IA. Apesar do entusiasmo dos criadores do evento, os críticos alertaram que devemos abordar com cautela. Pensou que o mundo dos influenciadores de IA não poderia ficar mais estranho? Hmm.. pense novamente. fanvue, uma plataforma que ajuda criadores digitais a aumentar o envolvimento usando mensagens de IA, notas de voz e análises, acaba de anunciar o primeiro...

By Londres, Reino Unido
Clover Hogan criticado por dizer que a tecnologia não resolverá a crise climática
Crédito: Unsplash
Equipar

Clover Hogan criticado por dizer que a tecnologia não resolverá a crise climática

Ontem, numa série de tweets, o activista ambiental da Geração Z classificou a crença em “soluções mágicas e brilhantes” para a crise como a forma mais insidiosa de negação do clima. Isso foi recebido com intensa reação não apenas dos usuários, mas também do CEO da Tesla e do próprio X, Elon Musk. Ontem, a ativista ambiental da Geração Z, Clover Hogan, conhecida por seu movimento educacional sem fins lucrativos Force of Nature, ...

By Londres, Reino Unido
Acessibilidade