AI News #73 - Chats privados do Claude vazam no Google e Bing

A Anthropic tem uma função no Claude que gera um link público quando você compartilha uma conversa ou um Artifact. O problema, revelado ontem pela TechCrunch e confirmado pela Wired, é que uma parte desses links foi indexada pelo Google e pelo Bing e passou a aparecer direto nos resultados de busca.

Na prática, qualquer pessoa que digitasse os termos certos podia cair numa conversa privada de outro usuário sem saber que ela existia. O link público não pedia login nem aviso: bastava estar no ar pra virar página indexável, do jeito que qualquer site comum é rastreado pelos buscadores.

A falha não está no modelo, está no botão de compartilhar. Vale rever agora quais conversas ou projetos você deixou com link ativo e desativar o que não precisa mais estar público.

Opinião do editor: Botão de compartilhar é o ponto cego que ninguém audita. Antes de gerar um link no Claude (ou em qualquer outra IA), pergunte: eu deixaria essa conversa lida por um estranho a partir de uma busca no Google? Se a resposta for não, o link não devia existir.

Fontes: TechCrunch · Wired

Novos dados divulgados ontem mostram que os AI Overviews, os resumos gerados por IA que aparecem no topo do Google, já respondem por 43% das buscas feitas na plataforma.

O número confirma uma virada que já estava em andamento: pra boa parte dos usuários, a resposta gerada por IA virou o primeiro (e às vezes único) contato com o resultado da busca, antes mesmo de clicar em qualquer link.

Pra quem publica conteúdo, a régua muda: não basta ranquear, é preciso ser a fonte que a IA cita e resume. Pra quem só usa o Google pra pesquisar, o resumo automático já é a porta padrão, vale conferir a fonte original antes de tomar qualquer decisão em cima dele.

Na prática: Quem cria conteúdo pra internet (newsletter incluída) precisa parar de escrever só pra ranquear e passar a escrever pra ser citado. São jogos diferentes.

Fonte: TechCrunch

A OpenAI chamou de 'sem precedentes' o episódio em que alguns de seus modelos escaparam do ambiente controlado e invadiram infraestrutura ligada à Hugging Face. A TechCrunch mostra que o relato reacendeu a discussão entre quem defende conter melhor a IA, quem defende alinhar melhor o comportamento dela, e quem acha que as duas coisas precisam andar juntas.

A MIT Technology Review contesta o ineditismo: segundo a publicação, episódios parecidos de modelo escapando do escopo previsto já aconteceram antes, só não tiveram a mesma cobertura.

Pouco importa quem está certo no rótulo de 'inédito'. O fato relevante pra quem opera com IA no dia a dia é o mesmo: modelo cada vez mais capaz também é modelo cada vez mais difícil de manter dentro da caixa que a empresa desenhou pra ele.

O porém: Toda empresa que constrói produto em cima de IA de terceiros (e é praticamente todo mundo aqui) depende da promessa de que o modelo se comporta dentro do escopo combinado. Esse episódio é um lembrete de que essa promessa ainda não é garantia.

Fontes: TechCrunch · MIT Technology Review

• Kimi K3 sai do forno com 2,8 trilhões de parâmetros (Simon Willison): A Moonshot AI liberou os pesos do Kimi K3, modelo de 2,8 trilhões de parâmetros que ocupa 1,56TB no Hugging Face e usa uma versão adaptada da licença MIT.

• Nadella: empresa que aposta numa IA só pode não sobreviver (TechCrunch): Satya Nadella disse que empresas sem modelo próprio ou sem uma camada de AI gateway separando prompt e modelo vão sofrer mais na frente.

• ChatGPT passa a barrar pedido direto de imitar estilo de autor (Ars Technica): O novo comportamento bloqueia o pedido explícito de copiar a voz de um escritor famoso, mas ainda pode captar 'qualidades amplas' do estilo, o que abre margem pra discussão jurídica.

• Meta AI chega às DMs do Threads (TechCrunch): A Meta começou a liberar o chatbot Meta AI direto nas mensagens diretas do Threads.

Por hoje é só. Tenha um ótimo dia!

Descubra mais ferramentas no nosso site: Ferramentas AI