Califórnia propõe botão de emergência para IA e regras
Alex da Cruz
Alex da Cruz é desenvolvedor full-stack em São Paulo. Trabalha com React, TypeScript e automação, e usa inteligência artificial no dia a dia para resolver problemas reais de código e de operação — não como demonstração. Já tocou uma operação de e-commerce de ponta a ponta e hoje constrói e mantém o pipeline de automação por trás deste blog. Escreve aqui sobre o que testa de fato.
O governador da Califórnia, Gavin Newsom, assinou uma ordem executiva para posicionar o estado na liderança da supervisão de inteligência artificial, conforme apurou o The Verge. A medida estabelece um prazo de dois meses para que especialistas definam como exigir auditorias independentes presenciais e um kill switch testado regularmente para modelos de fronteira.
A indústria consegue se auto-regular?
A ofensiva estadual ocorre semanas após um alerta de pesquisadores da Anthropic sobre riscos existenciais. Segundo o TechCrunch, o CEO da empresa, Dario Amodei, apresentou um plano para "ritmar a fronteira" tecnológica com avaliadores de segurança independentes, mas a proposta sofre resistência direta de executivos como Jensen Huang, da Nvidia.
O que muda na prática para as empresas?
Com o Congresso dos EUA paralisado até as eleições de meio de mandato e o governo federal rejeitando novas amarras regulatórias, a Califórnia tenta impor seu modelo como o piso nacional. Empresas que desenvolvem IA avançada precisarão se preparar para reportar incidentes de perda de controle e submeter relatórios de risco a auditores estaduais independentes.
Fontes
- Gavin Newsom is pushing for an AI kill switch — theverge.com
- Automattic’s 33-Hour Coup, and can AI labs police themselves? — techcrunch.com
Perguntas frequentes
- O que a ordem executiva da Califórnia exige das empresas de IA?
- A medida determina a criação de recomendações para auditorias independentes presenciais, relatórios de transparência fiscalizados e a implementação de um botão de parada de emergência ('kill switch').
- Qual é a posição das empresas de IA sobre a regulação?
- Enquanto a Anthropic sugere um plano de autocontrole com avaliadores independentes, outros líderes da indústria, como a Nvidia, fazem oposição a essas barreiras.
Comentários
0 comentário
Seja o primeiro a comentar.
Continue Lendo
Jev: o novo modelo de IA sem linguagem para automação
Criado por um dos pioneiros do RLHF, o Jev abandona a geração de texto para entregar decisões probabilísticas baratas e até 18 vezes mais rápidas.
Meta Muse no Mac: o que muda na sua rotina
O assistente Meta Muse já está disponível no Mac, trazendo automação integrada a aplicativos nativos com controle rígido de permissões.
Claude Opus 5: como a IA da Anthropic invadiu a OpenAI
Pesquisadores usaram o Claude Opus 5 da Anthropic para invadir sistemas da OpenAI e acessar dados internos de código.