OpenAI anunciou hoje como irá cumprir a legislação da União Europeia sobre inteligência artificial, que exige que os fornecedores de sistemas de inteligência artificial generativa marquem de forma identificável os textos gerados por inteligência artificial. Aqui estão os detalhes específicos.
No contexto, há alguns meses, a Anthropic gerou controvérsia ao anunciar que, para cumprir a legislação da União Europeia sobre inteligência artificial, o Claude começaria a marcar textos através de ajustes ligeiros na sua escolha de palavras. Em suma, o Claude às vezes escolhe entre palavras de significado semelhante com base em um padrão oculto, e a Anthropic afirmou que isso não afeta substancialmente o significado, a qualidade ou a legibilidade das suas respostas. A Anthropic também desenvolveu um detector que procura esse padrão no texto e determina se o texto pode ter vindo do Claude.
O detector não pode ser usado para determinar se o texto é da OpenAI ou de outros concorrentes, uma vez que a marca d'água do Claude é gerada usando uma chave secreta exclusiva do sistema da Anthropic.
No auge da controvérsia, a Anthropic enfatizou que o Claude não está sozinho, apontando que outras várias principais fornecedoras de inteligência artificial também estão implementando sistemas de marcação para cumprir os requisitos da União Europeia. Hoje, a OpenAI anunciou a sua própria solução, que, embora utilize um método semelhante, tem um alcance e uma escala relativamente limitados.
OpenAI irá adicionar marca d'água ao ChatGPT e Codex nas próximas semanas
De acordo com a OpenAI, "os clientes da API em todo o mundo poderão optar por ativar a marca d'água de texto para modelos selecionados", e a empresa "adicionará uma marca d'água invisível à saída de texto do ChatGPT e Codex elegíveis nas próximas semanas", o que significa que a marca d'água de texto na API atual ainda está desativada por padrão, e quanto ao ChatGPT e Codex, inicialmente estará limitada apenas a utilizadores elegíveis da União Europeia.
A OpenAI também abriu o acesso ao seu detector de marca d'água de texto, inicialmente limitado a investigadores e instituições profissionais aprovadas, à medida que a empresa avalia e melhora a tecnologia. Quanto à precisão, a OpenAI deixou claro que a tecnologia de detecção ainda tem limitações significativas, podendo gerar falsos negativos e falsos positivos, especialmente em textos mais curtos ou conteúdos de áreas específicas, "como matemática, onde a flexibilidade na escolha de palavras é menor."
A OpenAI mencionou a sua tecnologia de marca d'água de texto, textGrain, que adiciona um sinal estatístico invisível à escolha de palavras do modelo. O detector procura esse sinal para avaliar se um texto contém a marca d'água da OpenAI. Mais detalhes sobre como o textGrain funciona podem ser encontrados no nosso relatório técnico, que será atualizado nas próximas semanas com mais informações. Também planejamos tornar essa tecnologia de código aberto, para que outros possam desenvolver com base nela.
A empresa também destacou que, além de ser mais difícil de detectar em parágrafos mais curtos, a edição pode também enfraquecer significativamente a marca d'água: ao avaliar 400 parágrafos marcados, substituir 10% das palavras por sinónimos fez a taxa de deteção cair de cerca de 92% para 66%. E ao substituir 25% das palavras, a taxa de deteção caiu para 17%. Curiosamente, a OpenAI comparou a saída com e sem marca d'água e mostrou que a saída com marca d'água obteve pontuações ligeiramente mais altas em vários testes de referência, embora a empresa tenha afirmado que não encontrou diferenças significativas no desempenho geral.
Critério Texto sem marca d'água (Astra, max) Texto com marca d'água (Astra, max) Índice de Análise de Inteligência Artificial 49.57 pontos 49.76 pontos Critério de Automação 34.09% 34.86% DeepSWE v1.1 72.80% 71.68% Critério de Terminal 4.0 53.90% 56.06% Critério de Terminal Científico 0.1 56.90% 60.00% BrowseComp 87.92% 87.35% HealthBench Profissional 64.27% 64.60% GPQA Diamond 94.44% 93.94%
A OpenAI também enfatizou que, além das limitações de falsos positivos e falsos negativos, a marca d'água "não mede a contribuição humana", "não estabelece propriedade ou responsabilidade", "não identifica usuários" e "não verifica a precisão". A OpenAI acrescentou que "a ausência de deteção de marca d'água não prova que foi uma criação humana." Por fim, a empresa afirmou que, à medida que a tecnologia, os padrões e as evidências evoluírem, espera rever a sua abordagem, enquanto continua a investigar se a marca d'água pode sobreviver melhor na edição e tradução, e se pode distinguir de forma mais significativa entre assistência de inteligência artificial e criação de inteligência artificial.
Ler o artigo original em techritual.com (chinês tradicional) →
The TechRitual editorial desk in Hong Kong. Articles on TechRitual World are translated from the Traditional Chinese originals on techritual.com.