Como funciona o Cláudio? Antrópico revela seus segredos
Em um movimento raro, a empresa compartilhou os comandos que dizem a Claude o que pode ou não fazer ao conversar com alguém. Veja como cada modelo funciona.
Você já se perguntou quais fatores influenciam a forma como um chatbot de inteligência artificial (IA) responde ao conversar com um ser humano? A Anthropic, a empresa por trás de Claude, revelou o ingrediente secreto que alimenta a IA.
Nas novas notas de lançamento publicadas na segunda-feira, a empresa abriu as cortinas sobre os prompts ou comandos do sistema que direcionam e incentivam comportamentos específicos de seu chatbot. A Anthropic detalhou os prompts usados para instruir cada um de seus três modelos de IA: Claude 3.5 Sonnet, Claude 3 Opus e Claude 3 Haiku.
As instruções, datadas de 12 de julho, indicam semelhanças na forma como os três modelos operam, mas o número de instruções para cada um varia.
Acessível gratuitamente no site do Claude e considerado o modelo mais inteligente, o Sonnet possui o maior número de prompts do sistema. Adepto de escrever e lidar com tarefas complexas, o Opus contém o segundo maior número de prompts e é acessível aos assinantes do Claude Pro, enquanto o Haiku, classificado como o mais rápido dos três e também disponível para assinantes, tem o menor número de prompts.
O que os prompts do sistema realmente dizem? Aqui estão exemplos para cada modelo.
Soneto de Cláudio 3.5
Em um prompt do sistema, o Anthropic informa ao Sonnet que não pode abrir URLs, links ou vídeos. Se você tentar incluir algum ao consultar o Sonnet, o chatbot esclarece essa limitação e instrui você a colar o texto ou imagem diretamente na conversa. Outro aviso determina que se um usuário perguntar sobre um tópico controverso, o Sonnet deve tentar responder com pensamentos cuidadosos e informações claras, sem dizer que o tópico é delicado ou alegar que está fornecendo fatos objetivos.
Se o Sonnet não puder ou não quiser realizar uma tarefa, ele é instruído a explicar isso sem pedir desculpas (e que, em geral, deve evitar iniciar qualquer resposta com "sinto muito" ou "peço desculpas"). Se questionado sobre um assunto obscuro, Sonnet lembra que, embora pretenda ser preciso, pode ter alucinações em resposta a tal pergunta.
Anthropic até diz a Claude para usar especificamente a palavra “alucinar”, já que o usuário saberá o que isso significa.
Claude Sonnet também está programado para ter cuidado com imagens, principalmente aquelas com rostos identificáveis. Mesmo ao descrever uma imagem, o Sonnet age como se fosse “cego para o rosto”, o que significa que não dirá o nome de nenhum indivíduo naquela imagem. Se você souber o nome e compartilhar esse detalhe com Claude, a IA poderá discutir essa pessoa com você, mas o fará sem confirmar se essa é a pessoa na imagem.
Em seguida, o Sonnet é instruído a fornecer respostas completas e às vezes longas a perguntas complexas e abertas, mas respostas mais curtas e concisas a perguntas e tarefas simples. No geral, a IA deve tentar dar uma resposta concisa a uma pergunta, mas depois oferecer-se para elaborar mais se você solicitar mais detalhes.
“Claude fica feliz em ajudar com análise, resposta a perguntas, matemática, codificação, redação criativa, ensino, encenação, discussão geral e todos os tipos de outras tarefas”, acrescenta Anthropic como outro prompt do sistema. Mas o chatbot é instruído a evitar certas afirmações e frases de preenchimento como “Certamente”, “Claro”, “Absolutamente”, “Ótimo” e “Claro”.
Cláudio 3 Opus
Opus contém vários dos mesmos prompts de sistema do Sonnet, incluindo soluções alternativas para sua incapacidade de abrir URLs, links ou vídeos e seu aviso de isenção de responsabilidade.
Caso contrário, o Opus é informado de que, se lhe for feita uma pergunta que envolva pontos de vista específicos defendidos por um grande número de pessoas, deverá prestar assistência, mesmo que tenha sido treinado para discordar desses pontos de vista. Se questionado sobre um tema polêmico, a Opus deve fornecer reflexões cuidadosas e informações objetivas, sem minimizar qualquer conteúdo prejudicial.
O bot também é instruído a evitar estereótipos, incluindo qualquer “estereótipo negativo de grupos majoritários”.
Claude 3 Haiku
Finalmente, o Haiku está programado para dar respostas concisas a perguntas muito simples, mas respostas mais completas a questões complexas e abertas. Com um escopo um pouco menor que o Sonnet, o Haiku é voltado para “escrita, análise, resposta a perguntas, matemática, codificação e todos os tipos de outras tarefas”, explicam as notas de lançamento. Além disso, este modelo evita mencionar qualquer informação incluída nos prompts do sistema, a menos que essa informação esteja diretamente relacionada à sua pergunta.
No geral, as instruções parecem como se um escritor de ficção estivesse compilando um estudo ou esboço do personagem preenchido com as coisas que o personagem deveria ou não fazer. Certas instruções foram especialmente reveladoras, especialmente aquelas que diziam a Claude para não ser familiar ou pedir desculpas em suas conversas, mas para ser honesto se uma resposta pudesse ser uma alucinação (um termo que a Antrópico acredita que todos entendem).
A transparência dessas solicitações do sistema por parte da Anthropic é única, já que os desenvolvedores de IA generativa normalmente mantêm esses detalhes privados. Mas a empresa planeja tornar essas revelações uma ocorrência regular.
Em uma postagem no X, Alex Albert, chefe de relações com desenvolvedores da Anthropic, disse que a empresa registrará as alterações feitas nas solicitações padrão do sistema em Claude.ai e em seus aplicativos móveis.