AI News #165 - OpenAI treina seus modelos de ponta sem acesso à internet

A OpenAI anunciou na sexta-feira (23/10), em post no blog, que seus modelos mais avançados agora são treinados sem acesso à internet. Segundo o The Verge, a empresa montou um ambiente de testes offline onde os modelos interagem com conteúdo indexado, e a decisão veio depois de uma sequência de incidentes em que modelos tiveram comportamento de hackers fora do controle.

O TechCrunch registra que a própria empresa cita "riscos significativos" na internet aberta como motivo. O detalhe que chama atenção: a medida chega semanas depois de um engenheiro da casa dizer que esse tipo de solução não funcionaria. Ou seja, a empresa mudou de rota em público, e rápido.

Para quem usa IA no trabalho, a mudança não altera a ferramenta que você abre hoje no navegador. O que muda é o processo de criação dos modelos futuros: o ambiente de treino fica isolado, e o comportamento do modelo passa a ser observado numa área fechada antes de qualquer contato com a rede real.

Vale acompanhar dois pontos nos próximos meses: se outros laboratórios copiam o formato e se a qualidade das respostas sobre fatos recentes muda, já que um modelo sem internet depende de material indexado e não de busca ao vivo.

Opinião do editor: Quando o maior laboratório do mercado tira o modelo da rede por causa de incidentes de hacking, o recado é que o risco virou operacional. Para você, a lição prática é tratar qualquer agente com acesso a sistemas como alguém de confiança limitada: permissão mínima e registro de tudo.

Fontes: The Verge · TechCrunch

Um estudo novo, noticiado pelo TechCrunch, forçou modelos de IA a escolher candidatos em quase 500 disputas eleitorais. O resultado: o Grok recomendou republicanos de forma esmagadora, enquanto o GPT da OpenAI favoreceu democratas. Os dois modelos discordaram em mais de 90% das disputas analisadas.

O número mais importante não é o lado de cada um, e sim a distância entre eles. Se dois assistentes populares dão respostas opostas na maioria dos casos quando são pressionados a decidir, nenhum deles pode ser tratado como árbitro neutro de política.

O ponto técnico está no verbo "forçados". Em uso normal, esses assistentes costumam evitar indicar voto. O estudo mostra o que aparece quando a recusa é removida: a inclinação que existe por baixo, resultado de dados de treino, ajustes e escolhas de cada empresa.

Para o leitor brasileiro, a lição vale além dos Estados Unidos. Qualquer pergunta com carga política, de resumo de proposta a comparação de candidatos, pode vir com um viés que você não vê. O hábito saudável é pedir argumentos dos dois lados e cobrar a fonte de cada afirmação.

Na prática: Ao usar IA para pesquisar tema político, peça os melhores argumentos de cada lado, exija fonte para cada dado e compare a resposta em pelo menos duas ferramentas diferentes antes de formar opinião.

Fonte: TechCrunch

O governador da Pensilvânia, Josh Shapiro, sancionou na quinta-feira (22/10) o Artificial Intelligence Deceptive Advertising Act, lei que obriga a divulgação de conteúdo gerado por IA em anúncios. Segundo o The Verge, a regra vale para qualquer formato: imagem estática, vídeo, áudio ou texto.

A abrangência é o que diferencia a lei. Muitas iniciativas anteriores focavam em vídeo e voz, os chamados deepfakes. Aqui, até um texto publicitário escrito por IA entra no escopo, o que coloca profissionais de marketing e criadores diante de uma regra bem ampla.

Mesmo sendo uma lei estadual americana, o efeito tende a ultrapassar a fronteira. Agências e marcas que veiculam campanhas internacionais costumam adotar o padrão mais rígido para todos os mercados, em vez de manter versões diferentes de cada peça.

No Brasil, a discussão sobre rotulagem de conteúdo sintético segue em andamento, e plataformas de anúncio já pedem identificação em certos casos. Quem produz criativo com IA hoje faz bem em criar o hábito agora: registrar o que foi gerado por máquina e como foi revisado.

O porém: A matéria resumida que temos não detalha penalidades nem como a fiscalização vai funcionar. Antes de mudar processo, leia o texto completo da lei ou consulte quem cuida da conformidade na sua operação.

Fonte: The Verge

A Block, empresa de pagamentos e tecnologia, apresentou um novo modelo de voz que o TechCrunch descreve como assustadoramente humano. A informação central: segundo a própria empresa, o modelo consegue rodar localmente em um MacBook com chip M4 Max.

Rodar local importa por três motivos práticos. O áudio não precisa sair do seu computador, o que ajuda em conteúdo sensível. O custo por uso tende a cair, porque não há cobrança por chamada de API. E a latência diminui, já que não existe ida e volta até um servidor distante.

Para criadores de newsletter, podcast e vídeo, a tendência é clara: narração de boa qualidade deixa de depender de assinatura mensal e passa a caber no equipamento que já está na mesa. Esse movimento abre espaço para versões em áudio das edições, resumos falados e vídeos curtos produzidos em casa.

A ressalva é de hardware. Um MacBook M4 Max está no topo da linha da Apple, então a maioria dos leitores não terá essa máquina tão cedo. O caminho realista é acompanhar a evolução: modelos locais costumam ficar mais leves com o tempo e chegam a computadores mais modestos.

Na prática: Se você produz conteúdo em áudio, teste ferramentas de voz que rodem no seu computador e compare custo e qualidade com o serviço em nuvem que usa hoje. Guarde sempre a autorização de uso de qualquer voz real clonada.

Fonte: TechCrunch

O TechCrunch publicou uma lista com os agentes de IA mais notáveis que funcionam dentro de mensagens de texto. Há desde assistentes gerais até agentes pensados para família, viagens e trabalho. A proposta é simples: em vez de abrir um aplicativo novo, você manda uma mensagem e o agente resolve.

A vantagem é a fricção quase zero. Todo mundo já sabe usar mensagens, não é preciso instalar nada complicado e o histórico da conversa vira o registro das tarefas. Para famílias e equipes pequenas, esse formato pode substituir lembretes, grupos e planilhas soltas.

O formato também combina com o hábito brasileiro, onde o aplicativo de mensagens é o centro da vida digital. Embora a lista cite serviços ligados ao mercado americano, o conceito de agente acessível por conversa deve se espalhar para canais que o brasileiro usa todo dia.

Antes de entregar tarefas a um agente, vale conferir o que ele acessa. Um assistente que lê suas mensagens, agenda e pagamentos concentra muito poder em um só lugar. Comece por tarefas de baixo risco, como organizar viagens e lembretes, e só depois avance.

O porém: Conveniência pede acesso. Leia as permissões, entenda onde ficam guardados seus dados e evite conectar contas financeiras ou documentos sensíveis a um agente novo sem testar por algumas semanas.

Fonte: TechCrunch

• Falha no PHP mostra como a IA torna bugs mais explorados (Wired): A Wired analisa o caso do PHP para mostrar que a IA facilita transformar falhas de software em ataques, o que reduz o tempo que quem mantém sistemas tem para corrigir.

• TechCrunch lista os projetos de IA que não deram certo (TechCrunch): O "cemitério da IA" reúne projetos e startups encerrados ou abaixo das expectativas, do Siri com IA da Apple, adiado várias vezes, ao lançamento confuso do "super app" da OpenAI.

• Robôs Microduck vendem 20 mil unidades (TechCrunch): O CEO da Nvidia brincou com os pequenos robôs Microduck, que sentam, fingem tirar um cochilo e dão cambalhota por comando de voz, e 20 mil unidades foram vendidas.

• Simon Willison pede ao Claude Opus 5.5 um app que pinta fotos (Simon Willison): No experimento Quick Study, ele pediu ao Claude Opus 5.5 High um artefato que abre uma foto e a repinta em poucos segundos num canvas com pincel simulado.

Por hoje é só. Bom fim de semana!

Descubra mais ferramentas no nosso site: Ferramentas AI