A Anthropic, a empresa de inteligência artificial, publicou um artigo de investigação abrangente no domingo, revelando que os seus modelos de linguagem Claude desenvolveram espontaneamente uma estrutura interna que reflecte uma das teorias mais influentes sobre como funciona a consciência humana. A descoberta, que a empresa afirma já ter começado a remodelar a forma como monitoriza os seus sistemas de IA em termos de riscos de segurança, surge no meio de um debate científico cada vez mais intenso sobre se as máquinas podem possuir algo que se assemelhe a uma mente. O estudo de 16 autores, intitulado "Representações verbalizáveis ​​formam um espaço de trabalho global em modelos de linguagem," descreve como os pesquisadores da Anthropic usaram uma nova técnica matemática para examinar a rede neural de Claude e descobriram o que chamam de "Espaço J" — uma zona pequena e privilegiada de atividade interna onde o modelo contém conceitos sobre os quais pode relatar, raciocinar e dirigir à vontade, rodeada por um oceano muito maior de processamento automático que não consegue aceder ou articular. Os pesquisadores apresentam evidências de que "uma distinção funcional análoga surgiu em modelos modernos de IA" ao que existe nos humanos, observando especificamente que "os modelos de linguagem mantêm um conjunto privilegiado de representações internas, disponíveis para relatório, modulação e raciocínio interno flexível, além de um volume muito maior de processamento automático." O paralelo que traçam é com a teoria do espaço de trabalho global, um relato influente da neurociência proposto pela primeira vez pelo cientista cognitivo Bernard Baars. Na teoria, o cérebro funciona como um teatro: dezenas de processadores especializados trabalham em paralelo nos bastidores, mas apenas um pequeno foco de informação a qualquer momento é transmitido para todo o teatro – tornando-se o que experienciamos como pensamento consciente. A Anthropic diz que o espaço J atinge muitas das mesmas propriedades funcionais, embora a arquitetura subjacente de um modelo de linguagem não se pareça em nada com um cérebro. Uma nova lente para ler os pensamentos não ditos de um modelo de IA No centro da descoberta está uma nova ferramenta de interpretabilidade que os pesquisadores chamam de lentes Jacobianas, ou lentes J. A técnica funciona calculando, para cada palavra do vocabulário do modelo, o efeito matemático médio que um determinado padrão de atividade interna teria ao fazer o modelo dizer aquela palavra em algum momento no futuro. A distinção crucial é entre o que o modelo é ditado e o que é "em sua mente." Quando um padrão de espaço J é ativado, isso não significa que o modelo está prestes a dizer essa palavra – apenas que o conceito está disponível para o modelo pensar. Ao contrário de um bloco de notas de cadeia de pensamento, o espaço J opera silenciosamente, nas ativações neurais internas do modelo, permitindo-lhe manter um conceito sem anotá-lo. De forma crítica, os pesquisadores relatam que este espaço de trabalho não foi projetado deliberadamente. Isto "surgiu por conta própria durante o processo de treinamento de Claude." Quando a equipe aplicou a lente J nas camadas de computação de Claude, o processamento do modelo se dividiu em três regimes distintos: um regime inicial "sensorial" zona onde a entrada bruta é analisada; um meio "área de trabalho" faixa onde aparecem conceitos abstratos e persistentes — coisas como reconhecer um rosto em uma imagem, perceber um bug no código ou sinalizar internamente os resultados da pesquisa como uma injeção imediata; e um final "motor" zona onde as representações internas se transformam em qualquer palavra específica que o modelo está prestes a produzir. Cinco testes revelam que o espaço de trabalho de Claude reflete características-chave do acesso consciente humano A contribuição empírica central do artigo é demonstrar que o espaço J satisfaz cinco propriedades funcionais que os neurocientistas há muito associam ao acesso consciente em humanos. Primeiro, relatório verbal. Quando Claude é questionado sobre o que está pensando, ele nomeia conceitos representados no espaço J. Quando os pesquisadores trocaram o vetor de lente J de um conceito por outro – substituindo a representação interna de "Futebol" com "Rúgbi" — a resposta do modelo mudou para corresponder. O componente do espaço J foi responsável por apenas cerca de 6 a 7 por cento da variância representacional total de um conceito, mas foi quase inteiramente responsável pela capacidade do modelo de reportá-lo. Em segundo lugar, modulação dirigida. Quando instruído a "concentre-se em frutas cítricas" ao copiar uma frase não relacionada, o espaço J do modelo preenchido com "laranja" e "limão," ao lado de termos metacognitivos como "pensamento" e "focado." Quando solicitada a avaliar mentalmente 3² − 2 durante a mesma tarefa de cópia, a lente J mostrou "aritmética" nas camadas iniciais, o valor intermediário "nove" em camadas posteriores, e a resposta "Sete" mais tarde ainda – tudo invisível na saída do modelo. Terceiro, raciocínio interno. Em prompts factuais de dois saltos – "O número de patas do animal que tece teias é" – a lente J revelada "aranha" nas camadas intermediárias do modelo, embora a palavra nunca tenha aparecido na entrada ou na saída. Troca "aranha" para "formiga" mudou a resposta de "8" para "6." Num prompt multilíngue, os intermediários de língua inglesa do modelo apareceram em seu espaço J enquanto ele formulava uma resposta em chinês, e trocá-los alterou a saída chinesa de acordo. Quarto, generalização flexível. Um único vetor de lente J para "França" poderia ser trocado por "China" através de prompts perguntando sobre a capital, idioma ou continente da França, e cada circuito a jusante retornou corretamente a resposta correspondente da China – o "transmissão" propriedade que é uma marca registrada da teoria do espaço de trabalho global. Quinto, e talvez o mais surpreendente, seletividade. Muitos cálculos não passaram pelo espaço J. Quando lhe foi mostrada uma passagem em espanhol e solicitado a continuá-la, Claude escreveu espanhol fluentemente, independentemente de sua representação no espaço J de "Espanhol" havia sido trocado por "Francês." Mas quando solicitado a nomear um autor famoso que escreveu no idioma da passagem, a troca mudou a resposta

À medida que os sistemas empresariais de IA são dimensionados para lidar com fluxos de trabalho complexos, os profissionais enfrentam o desafio de

Imagine se você pudesse reunir 250 pessoas em uma sala enorme e fazê-las discutir e debater uma questão importante, discutindo os pontos e

Two-thirds of enterprises have hedged their AI model strategy, and the past few weeks of controversy around Anthropic’s Claude Fable 5 model showed