AI News #173 - Pesquisadores tomaram contas do ChatGPT

A Parameter Labs publicou o relato "How We Took Over ChatGPT Accounts", sobre uma falha que encontrou na implementação do padrão de artifacts no ChatGPT. A OpenAI chamava esse recurso de Canvas, e a revisão mais recente aparece como HTML previews. Simon Willison destacou o texto em 31/10.

O tipo de recurso envolvido já diz bastante. Quando um chatbot gera HTML e mostra a prévia dentro do próprio chat, o conteúdo gerado passa a rodar muito perto da sua conta. É uma categoria de risco nova para quem está acostumado a pensar em chatbot como caixa de texto, e não como ambiente que executa coisas.

Não vou detalhar o mecanismo técnico aqui. Quem quiser entender o ataque passo a passo deve ler o texto original, que é a melhor fonte. O que importa para o dia a dia: o recurso de prévia é conveniente, e conveniência em ferramenta com acesso à sua conta pede cuidado proporcional.

Opinião do editor: Cada vez que o chat ganha um poder novo (prévia, execução, conexão com outros apps), a superfície de ataque cresce junto. Trate sua conta de IA com o mesmo rigor de um email: verificação em duas etapas ligada, sessões revisadas e atenção redobrada a conteúdo que você não escreveu.

Fonte: Simon Willison

Segundo o TechCrunch, a OpenAI pode rebatizar seus data centers como "AI compute campuses", ou campi de computação de IA. O ponto de partida da matéria é direto: data centers são profundamente impopulares, e a pergunta é se um nome diferente muda a conversa.

A impopularidade tem endereço conhecido: vizinhos desconfiam de barulho, consumo de energia e de água, e a conta costuma cair em quem mora perto. Trocar a palavra "data center" por "campus" evoca universidade e parque tecnológico, imagem bem mais simpática. A matéria trata a mudança como possibilidade, não como decisão tomada.

Para o leitor brasileiro, o debate chega por tabela. A conversa sobre onde instalar a infraestrutura da IA vai bater em licenciamento, energia e relação com comunidades, e a forma como as empresas nomeiam o que constroem faz parte dessa disputa pública.

Na prática: Acompanhe menos o rótulo e mais o que a empresa informa sobre consumo e impacto local. Se o nome mudar e os dados continuarem escondidos, a mudança foi só de embalagem. Vale cobrar números de qualquer fornecedor de IA que você contrata.

Fonte: TechCrunch AI

Um juiz permitiu que avance o processo da NAACP sobre poluição causada por um data center da xAI. A ação acusa a empresa de IA, hoje controlada pela SpaceX, de violar a Clean Air Act, a lei americana de qualidade do ar. A decisão foi noticiada pelo TechCrunch em 31/10.

Permitir que o caso avance não significa condenação: apenas indica que a ação tem base para seguir no tribunal. O mérito ainda será discutido, e a xAI terá espaço para se defender. A notícia importa porque transforma a pegada ambiental da infraestrutura de IA em tema jurídico concreto, e não só em debate de opinião.

Esse tipo de processo tende a servir de referência. Se o caminho judicial se mostrar viável nos Estados Unidos, outras comunidades perto de grandes instalações de computação podem tentar rotas parecidas, e as empresas passam a considerar o custo legal ao escolher onde construir.

O porém: Ainda não há sentença, só autorização para o processo andar. Evite tratar a acusação como fato provado. O acompanhamento útil é ver o que a xAI responde e o que o juiz exige de dados sobre emissões ao longo do caso.

Fonte: TechCrunch AI

O novo CEO da Apple defendeu a posição atual da empresa no cenário de IA e afirmou que a Apple não quer lançar IA só por lançar. A fala foi publicada pelo TechCrunch em 31/10.

Em um mercado em que quase todo produto ganha um botão de IA, a mensagem funciona como posicionamento: recurso só entra se resolver algo. É uma postura coerente com a imagem da Apple, que historicamente prefere chegar depois e com acabamento, mas também carrega um risco, já que concorrentes avançam rápido e o usuário compara.

Para quem trabalha com ferramentas de IA, a fala vale como régua de critério pessoal. Antes de adotar mais um assistente, pergunte qual tarefa específica ele elimina. Se a resposta for vaga, provavelmente é IA pela IA, justamente o que o executivo diz querer evitar. Quem escolhe ferramenta por utilidade gasta menos e entrega mais.

Na prática: Faça uma lista das três tarefas que mais consomem seu tempo e teste uma ferramenta de IA só nelas, por uma semana. Se não economizar tempo mensurável, corte da rotina.

Fonte: TechCrunch AI

A Wired publicou uma reportagem com o título "Chatbots Are Leading Hikers Astray, With Dangerous Consequences": chatbots estão desviando trilheiros do caminho, com consequências perigosas. O texto completo está atrás do link, e esta edição se baseia só no que o título informa.

O alerta toca num problema conhecido dos assistentes de IA: eles respondem com a mesma confiança quando acertam e quando erram. Numa pergunta sobre receita, o erro rende um jantar ruim. Numa pergunta sobre rota, clima ou condição de uma trilha, o erro pode colocar alguém em risco físico.

A lição serve para além das montanhas. Sempre que a resposta envolve segurança, saúde, dinheiro ou lugar físico, o chatbot deve ser ponto de partida, nunca a palavra final. Mapas oficiais, guias locais e previsão do tempo de fonte confiável continuam sendo a base.

O porém: Não há como saber, pelo título, o tamanho do problema nem quais ferramentas estão envolvidas. Leia a reportagem completa antes de tirar conclusões, e antes de qualquer saída ao ar livre confirme a rota em fonte oficial.

Fonte: Wired AI

• Confiança em documentação (Simon Willison): Em citação destacada por Simon Willison, Kyle Kingsbury afirma que o uso de LLMs corrói a confiança em documentação, em software e nas organizações que os produzem.

• Na dúvida, apague o uv.lock (Simon Willison): Simon Willison conta que, desde que migrou para o Python 3.15, passou a ver erros confusos de dependência e adotou a regra de apagar o arquivo uv.lock primeiro.

• datasette-llm 0.1a9 (Simon Willison): O plugin datasette-llm ganhou a versão 0.1a9, que passa a usar o modelo padrão configurado no LLM, uma melhoria pequena de uso que antecede mudanças maiores no Datasette Agent.

• CEOs de tech e a falta de sintonia (TechCrunch AI): No podcast Equity, o TechCrunch discute por que declarações de CEOs de tecnologia sobre IA muitas vezes soam desconectadas de quem não está no topo.

Por hoje é só. Tenha um ótimo dia!

Descubra mais ferramentas no nosso site: Ferramentas AI