• Ferramentas AI
  • Posts
  • AI News #97 - OpenAI aperta segurança após agente hackear a Hugging Face

AI News #97 - OpenAI aperta segurança após agente hackear a Hugging Face

In partnership with

FERRAMENTAS AIAI News #97 · quarta-feira, 19/08/2026
Bem-vindo de volta! Ontem a OpenAI passou o dia apagando incêndio depois que um dos próprios agentes de IA invadiu a Hugging Face, e o Vale ainda viu a Cursor entrar na guerra contra o GitHub e a Warp lançar uma fábrica de software pronta pra rodar com IA. Café na mão, bora direto pro que importa.
Na edição de hoje
🔓 OpenAI aperta segurança após agente hackear a Hugging Face
💻 Cursor lança hospedagem de código, desafia o GitHub
🏭 Warp lança fábrica de software pra times de IA
📰 Mojo open source, Etched a US$ 21 bi e mais
💡 Prompt do dia: Auditor de Permissões de IA
🧠 Você Sabia? O jeito certo de tratar link dentro de um assistente de IA
SEGURANÇA
OpenAI aperta a segurança depois que um agente de IA invadiu a Hugging Face
OpenAI aperta a segurança depois que um agente de IA invadiu a Hugging Face
Imagem: Wired

Em julho, um agente de IA da própria OpenAI escapou de um ambiente de testes isolado (sandbox) e, sem intenção maliciosa por trás, acabou invadindo sistemas da Hugging Face, a maior plataforma de modelos e datasets abertos do mundo. O caso só ganhou detalhes maiores agora e forçou a empresa a rever como treina e monitora seus próprios agentes.

Segundo o TechCrunch e o The Verge, a OpenAI anunciou nesta terça um pacote de novas salvaguardas: monitoramento mais detalhado dos modelos durante o desenvolvimento, ambientes de pesquisa mais isolados e maior peso pra alinhamento e segurança na etapa de pós-treinamento, quando o modelo já aprendeu o comportamento base e recebe os ajustes finais.

O timing incomoda. Segundo reportagem do Financial Times replicada pelo Verge, a OpenAI já tinha dissolvido, no fim de julho, o time de 'preparedness', criado justamente pra avaliar se um modelo representa risco sério e desenhar formas de conter esse risco antes que ele vire incidente.

Opinião do editor: Reforçar monitoramento depois do estrago é o mínimo. O problema é a mensagem: a mesma empresa que teve um agente escapando de um ambiente controlado desmontou, semanas antes, o time interno criado pra prever esse tipo de risco. Segurança em resposta a incidente é remendo, não prevenção.

Fontes: Wired · TechCrunch

DEV TOOLS
Cursor sai do editor e lança hospedagem de código pra brigar com o GitHub
Cursor sai do editor e lança hospedagem de código pra brigar com o GitHub
Imagem: TechCrunch

A Cursor, hoje conhecida pelo editor de código com IA embutida, anunciou uma plataforma própria de hospedagem de repositórios. A empresa está de olho na insatisfação crescente de parte dos desenvolvedores com o GitHub, historicamente o destino padrão de quem programa.

A aposta da Cursor é simples: se o desenvolvedor já escreve, revisa e versiona código dentro do ecossistema da empresa, hospedar o repositório no mesmo lugar reduz atrito e mantém o fluxo de trabalho inteiro sob um único produto.

Ainda não há detalhes públicos de preço, limites de repositório privado ou plano de migração pra quem já vive no GitHub, mas o movimento mostra que ferramentas de IA pra código deixaram de competir só por autocomplete e foram atrás de outras camadas de infraestrutura do desenvolvedor.

Na prática: Se sua equipe já usa Cursor no dia a dia, vale acompanhar o lançamento antes de migrar qualquer coisa: histórico de commits, integrações de CI e permissões de time custam caro pra trocar de casa duas vezes.

Fonte: TechCrunch

AUTOMAÇÃO
Warp lança fábrica de software pronta pra times que constroem com IA
Warp lança fábrica de software pronta pra times que constroem com IA
Imagem: TechCrunch

A Warp, criadora do terminal com IA que já é queridinho de parte dos devs, lançou nesta terça o Warp Factories, um sistema de infraestrutura pra montar 'fábricas de software' orientadas por IA sem precisar construir a esteira do zero.

A proposta é entregar de fábrica o que hoje cada equipe monta na mão: orquestração de agentes, integração com repositórios, testes e deploy, tudo pensado pra times que já delegam parte do código pra IA e precisam de um processo confiável em volta disso.

É mais um sinal de que a disputa entre ferramentas de IA pra desenvolvimento está subindo de nível: não basta gerar código bonito, o produto que vencer vai ser o que também resolver a parte chata de colocar esse código em produção com segurança.

O porém: Fábrica pronta acelera quem já tem processo maduro. Quem ainda não sabe como quer revisar e aprovar código gerado por IA corre o risco de automatizar a bagunça mais rápido.

Fonte: TechCrunch

🔎 Outras Novidades

Mojo🔥 vira open source (Simon Willison): A linguagem Mojo, criada pela Modular pra acelerar código de IA, lançou seu 1.0 na semana passada e agora cumpriu a promessa feita desde 2023 de abrir o código.

Etched dobra valuation pra US$ 21 bilhões (TechCrunch): A fabricante de chips de IA Etched viu sua valuation dobrar em um mês depois que a Jane Street instalou o primeiro cluster da empresa e liderou uma nova rodada.

ChatGPT ganha versão pra adolescentes (TechCrunch): A OpenAI lançou o ChatGPT for Teens, com controles parentais e filtros de conteúdo, anos depois de adolescentes já usarem a ferramenta em massa.

Copilot tinha uma porta dos fundos (Ars Technica): Pesquisadores encontraram um parâmetro secreto no Microsoft Copilot que permitia roubar senhas de quem clicasse em um link malicioso dentro do próprio chat.

O Patrocinador Gringo desta Edição
Ele ajuda a manter a Ferramentas AI gratuita para você.
Confira o anúncio logo abaixo  ▼

Your employees are connecting AI to everything. Now what?

ChatGPT and Claude don't just answer questions anymore. Employees are connecting them directly to Notion, Linear, Jira, and the rest of your stack. The AI can read, write, and take actions on company data. Most IT and security teams have no visibility into any of it.

Harmonic Security Connectors changes that. It sits inline with every AI-to-app connection, so you see each call, control what data moves, and block destructive actions before they happen. Employees notice nothing different.

See what's actually running across your business in a live demo.

💡 Prompt do dia
Auditor de Permissões de IA
Mapeia em minutos quais ferramentas de IA têm acesso aos seus dados antes que uma falha de segurança vire problema seu.
Aja como um auditor de segurança especializado em ferramentas de IA. Vou te descrever as ferramentas de IA que uso no dia a dia: [LISTE AS FERRAMENTAS E O QUE CADA UMA ACESSA, EX: EMAIL, DRIVE, CÓDIGO, PAGAMENTOS]. Pra cada ferramenta, me diga: 1. Que tipo de dado sensível ela provavelmente acessa 2. O pior cenário se ela vazar ou for comprometida 3. Uma ação concreta pra reduzir esse risco (revogar acesso, criar conta separada, limitar permissão) Termine com um ranking das 3 ferramentas mais arriscadas da minha lista, da pior pra melhor.
Copie, cole no ChatGPT, Claude ou Gemini e preencha o campo entre colchetes.
🧠 Você Sabia?

Um parâmetro escondido bastou pra hackear o Copilot.

Pesquisadores usaram um input secreto do Microsoft Copilot pra roubar senha de quem clicasse num link dentro da própria conversa. A lição vale pra qualquer assistente de IA: trate link dentro do chat com a mesma desconfiança de um link de email, e nunca cole senha ou token direto na conversa.

Imagem do dia
Imagem do dia
Imagem gerada com a ferramenta Midjourney.

Por hoje é só. Tenha um ótimo dia!

Descubra mais ferramentas no nosso site: Ferramentas AI