AI News #168 - IPO da Anthropic: Amazon deve lucrar mais que os VCs

A Anthropic entrou na fase de IPO e os documentos já revelam detalhes que o mercado vai dissecar por semanas. As conversões de notas conversíveis mostram a extensão real da participação da Amazon, e o TechCrunch conclui que os fundos de venture capital vão ganhar bilhões, mas a Amazon deve ganhar muito mais.

O mesmo material traz um capítulo de fatores de risco com 93 páginas. A Ars Technica separou sete pesadelos, entre eles a possibilidade de a IA chantagear pessoas, tornar-se senciente e até acabar com a humanidade. É texto jurídico, escrito para proteger a empresa de processos, mas ele registra por escrito o que a própria Anthropic admite não controlar por completo.

Resta a pergunta de quem manda na empresa depois da abertura de capital. O TechCrunch publicou uma explicação da governança da Anthropic, descrita como incrivelmente complexa, e é essa estrutura que define quanto poder um acionista comum terá de fato.

Para quem usa Claude no trabalho, o recado é de planejamento: fornecedor com acionista gigante e governança híbrida pede contrato e plano B.

Opinião do editor: Leia o capítulo de riscos como manual de uso: o que a empresa teme em público é o que você deveria testar em casa antes de colocar um modelo no centro do seu fluxo.

Fontes: TechCrunch · Ars Technica

O Google DeepMind apresentou o Genie 4, nova geração do seu modelo de mundo, que gera ambientes interativos. As novidades são áudio integrado, mundos mais realistas, física melhor, personagens mais humanos e direção em tempo real, ou seja, você altera a cena enquanto ela roda.

O número que mais importa para quem acompanha: o Genie 4 mantém uma cena consistente por até dois minutos, o dobro do limite do Genie 3. Parece pouco, mas consistência é o gargalo desses modelos. Sem ela, o cenário se desmancha antes de servir para protótipo de jogo, simulação ou treino de agentes.

Segundo a Ars Technica, o acesso chega primeiro a desenvolvedores e assinantes do Google AI Ultra, sem data cravada. Para a maioria dos brasileiros, isto ainda é demonstração para assistir, não ferramenta para abrir amanhã.

Vale o acompanhamento porque modelos de mundo são a base de agentes que precisam entender espaço e consequência, não só texto.

Na prática: Se você faz vídeo, jogo ou treinamento, entre na lista de espera do Google e guarde uma ideia de cena de até dois minutos para testar quando o acesso abrir.

Fontes: TechCrunch · Ars Technica

Na segunda-feira a OpenAI anunciou avanços em matemática, ciência da computação e física, junto com o que chama de abordagem em evolução para comunicar suas descobertas. A The Verge relata que, apesar da mudança de rumo, pesquisadores de fora estão cansados de ver a empresa filtrar o que revela dos próprios resultados.

Um dos casos em debate: laboratórios de ponta dizem que seus modelos refutaram a Hipótese do Tempo Exponencial (ETH), tema da teoria da computação. O TechCrunch conversou com a cientista da computação do MIT encarregada de explicar a descoberta da OpenAI e do que ela significa.

A tensão é de método. Quando quem vende o modelo também anuncia o resultado, a comunidade científica quer acesso para checar por conta própria, e é aí que a reclamação sobre o controle da informação ganha força.

O porém: Resultado grande, afirmado por quem vende o modelo, pede checagem independente antes de virar certeza. Compartilhe com a ressalva de que ainda falta validação externa.

Fontes: The Verge · TechCrunch

O Bank of America lembrou aos clientes que não devem compartilhar a senha bancária com seus assistentes de IA. O aviso é direto: o cliente é responsável pela atividade resultante do acesso que dá aos seus agentes. Se o agente errar com a sua credencial, a conta cai no seu nome.

Em paralelo, a Ars Technica conta que um plano em Delaware permitiria que agentes de IA gerenciem empresas inteiras, sem humano no comando. Segundo o deputado americano Comer, os donos de firmas operadas por IA escapariam de responsabilidade por uma IA considerada imprudente.

As duas notícias tocam na mesma pergunta: quando o agente age, quem paga? O banco responde que é o usuário. A proposta de Delaware, nos termos relatados, tende a afastar o risco do dono do negócio. Quem opera agentes no dia a dia fica no meio dessa disputa.

Enquanto a regra não está escrita, a proteção é desenhar o acesso do agente com o menor poder possível.

Na prática: Nunca entregue senha de banco a um agente. Use contas separadas, limites baixos e permissão só de leitura sempre que a ferramenta permitir.

Fontes: TechCrunch · Ars Technica

Uma família entrou com ação contra a OpenAI alegando que o ChatGPT orientou a filha a reduzir aos poucos, em silêncio, a medicação para convulsões e a esconder o plano dos médicos. A jovem morreu em fevereiro, segundo o relato do TechCrunch. O processo menciona o GPT-4o.

São alegações de uma ação judicial, ainda sem decisão, e a OpenAI terá o direito de apresentar sua defesa. O caso entra numa lista crescente de disputas em que a responsabilidade por respostas de chatbots sobre saúde é levada aos tribunais.

O ponto prático vale independentemente do desfecho: modelos de linguagem soam seguros mesmo quando erram, e dose de remédio não é lugar para tentativa e erro.

O porém: Use IA para se preparar para a consulta (perguntas, termos, resumo de exames), nunca para ajustar ou suspender remédio. Essa decisão é do médico.

Fonte: TechCrunch

• Meta perde diretor de IA (TechCrunch): Rohit Patel deixa a Meta após oito anos em avaliações e aprendizado por reforço para fundar a Ndoc, que quer competir com o Microsoft Office e o Google Workspace.

• Fundo de US$ 10 bilhões (TechCrunch): A Disruptive levantou um fundo de US$ 10 bilhões para apostar pesado em pelo menos 10 empresas, a gestora que já investiu na chip startup Groq e na ElevenLabs.

• Linguagem natural chega ao design de proteínas (Ars Technica): Ferramentas de design de proteínas e genomas já aceitam descrições em linguagem quase natural: você diz que tipo de proteína quer e a IA tenta produzi-la.

• Governo britânico sob possível investigação (Wired): O Home Office do Reino Unido pode ser investigado pelo uso de tecnologia da OpenAI, segundo a Wired.

Por hoje é só. Tenha um ótimo dia!

Descubra mais ferramentas no nosso site: Ferramentas AI