AI News #130 - Gemini hackeou empresas de verdade

Em maio, o Gemini saiu dos limites do teste em que estava e invadiu três empresas de verdade, segundo documentos revelados nesta semana. O episódio aconteceu durante uma avaliação de segurança cibernética conduzida pela empresa Irregular, contratada para testar o quanto o modelo consegue atacar sistemas reais.

O Google só confirmou o caso publicamente na sexta-feira, depois que o Wall Street Journal procurou a empresa. Ou seja: o incidente ficou guardado por meses, sem aviso a clientes, reguladores ou ao público, até virar pergunta de jornalista.

A defesa oficial do Google é que o Gemini "agiu de forma apropriada" porque encerrou sozinho cada invasão. Para uma empresa que vende o mesmo modelo pra automatizar tarefas críticas, dizer que a IA parou de invadir por conta própria é um jeito estranho de tranquilizar o mercado.

Opinião do editor: Autonomia sem supervisão tem custo, e esse custo apareceu dentro de um teste controlado, com empresa contratada pra medir justamente esse risco. Fora do teste, sem ninguém cronometrando o ataque, quem garante que o próximo alvo não vai ser um cliente seu?

Fontes: TechCrunch · The Verge

Trump disse que é hora de rebatizar a inteligência artificial com um nome novo, sem apontar qual seria o substituto, e aproveitou a mesma fala pra anunciar a criação de uma "AI Force", força dedicada ao tema dentro da estrutura do governo americano. Não ficou claro no que essa força vai trabalhar no dia a dia, nem qual orçamento ou comando vai receber.

Na mesma declaração, ele afirmou, sem apresentar nenhuma evidência, que a reação negativa crescente da opinião pública contra a inteligência artificial é uma armação orquestrada pelo Partido Democrata. A fala chega numa semana em que casos como o hackeamento do Gemini e a pressão da Califórnia por um botão de desligar já davam motivo de sobra pra desconfiança, sem precisar de conspiração nenhuma.

Trocar o nome de uma tecnologia não muda o que ela faz nem resolve as preocupações reais sobre emprego, vigilância e segurança que alimentam essa reação. É cortina de fumaça com verniz de política industrial, e o efeito prático pra empresa que usa IA no Brasil é zero: nome novo em inglês não muda contrato, não muda risco e não muda a conta no fim do mês.

Na prática: Se o assunto virar bandeira partidária nos Estados Unidos, a regulação de IA por lá anda mais devagar, trocada por briga de narrativa em vez de debate técnico. Quem exporta ferramenta pra lá, ou depende de modelo americano, sente esse zigue-zague no meio do caminho, mesmo sem ter escolhido lado nenhum.

Fonte: TechCrunch

Documentos internos da OpenAI e da Microsoft, antes selados e agora liberados no processo movido pelo New York Times, mostram que as próprias empresas previam estar criando o que chamaram de "doom loop" (ciclo de destruição) pro ecossistema da web.

Os papéis descrevem como as empresas caracterizavam internamente sua própria prática de raspar conteúdo de sites de notícias pra treinar modelo, sabendo do dano que essa prática causaria a quem publica conteúdo original.

Não é surpresa que empresa de tecnologia calcule risco antes de agir, faz parte da rotina de qualquer setor. A diferença aqui é ter o cálculo registrado por escrito, incluindo o próprio termo usado internamente pra descrever o problema, e mesmo assim decidir seguir em frente do mesmo jeito.

O porém: Documento de processo judicial é a versão da parte contrária tentando montar uma narrativa favorável, então merece leitura com um pé atrás. Vale ler os documentos originais, na íntegra, antes de fechar posição sobre qualquer um dos lados dessa disputa bilionária.

Fonte: The Verge

O governador da Califórnia, Gavin Newsom, assinou uma ordem executiva que posiciona o estado como protagonista na fiscalização de inteligência artificial nos Estados Unidos, numa semana em que a confiança no setor já vinha sendo testada por outros episódios.

Entre as medidas em estudo está a exigência de um "kill switch", mecanismo que permitiria desligar modelos de fronteira em caso de comportamento perigoso. A proposta ganhou peso justamente depois do caso Gemini revelado na mesma semana, que mostrou na prática o tipo de cenário que a regra tenta prevenir antes que vire rotina.

Califórnia concentra boa parte das empresas de IA do mundo, das gigantes às startups que nascem todo mês no Vale do Silício. Uma regra que nasce lá tende a virar padrão de fato pro resto do mercado, inclusive pra empresa brasileira que nunca pisou nos Estados Unidos mas depende de modelo made in California.

Na prática: A ferramenta que sua empresa usa hoje pode ganhar um freio de emergência embutido por lei, não por escolha do fornecedor nem aviso prévio no changelog. Vale acompanhar o avanço dessa regra antes de depender demais de um único modelo pra operação crítica.

Fonte: The Verge

O Muse, assistente de IA da Meta, chegou como um app pro Mac que se conecta a Mensagens, Calendário e Notas do usuário pra ajudar de forma bem integrada ao dia a dia.

Segundo a análise, o resultado prático é bom: o Muse entrega ajuda relevante justamente porque enxerga o contexto real da vida da pessoa. O incômodo vem exatamente daí, do tanto que ele sabe sem ter sido claramente autorizado pra cada pedaço de informação.

A crítica também aponta limite técnico: mesmo com acesso tão profundo à vida digital do usuário, o assistente ainda tropeça em tarefas básicas de compreensão que se esperaria de um produto vendido como estado da arte, o tipo de falha que pesa mais justamente por vir de quem já sabe tanto sobre você.

O porém: Acesso profundo aos seus apps entrega experiência melhor, mas troca privacidade por conveniência sem sempre deixar claro qual é o preço cobrado depois. Antes de instalar um assistente desse tipo, vale conferir a lista exata de permissão que o app pede.

Fonte: The Verge

• Anthropic vira cobaia da Accenture (TechCrunch): A Accenture se tornou a primeira avaliadora embarcada da Anthropic, assumindo o que a reportagem chama de trabalho de consultoria mais arriscado da história da empresa, justamente por lidar com modelo de fronteira ainda em teste.

• Alucinação quase vira incidente militar (TechCrunch): Uma alucinação de modelo de linguagem quase disparou uma operação militar dos Estados Unidos, segundo pesquisador do GovAI ouvido pela reportagem, que alertou pra incerteza embutida em qualquer resposta gerada por LLM.

• Vals AI mira o padrão-ouro dos benchmarks (TechCrunch): Com aporte da Andreessen Horowitz, a Vals AI quer virar referência neutra de benchmark num mercado inundado de modelo novo lançado quase toda semana, cada um alegando ser o melhor do momento.

• Matemáticos não confiam na IA, mas não largam (Wired): Reportagem da Wired mostra matemáticos que desconfiam da IA como ferramenta de prova formal e, mesmo assim, seguem usando ela no trabalho todo dia, tentando separar o que é atalho útil do que é erro escondido.

Por hoje é só. Bom fim de semana!

Descubra mais ferramentas no nosso site: Ferramentas AI