Conclusões de chat

Crie respostas conversacionais usando diversos modelos de IA por meio de uma API unificada.

Criar conclusão de chat

POST https://aiberm.com/v1/chat/completions

1curl https://aiberm.com/v1/chat/completions \
2-H "Content-Type: application/json" \
3-H "Authorization: Bearer YOUR_API_KEY" \
4-d '{
5 "model": "gpt-4",
6 "messages": [
7 {"role": "system", "content": "You are a helpful assistant."},
8 {"role": "user", "content": "What is the capital of France?"}
9 ],
10 "temperature": 0.7
11}'

Parâmetros da solicitação

ParâmetroTipoObrigatórioDescrição
modelstringSimID do modelo a ser usado
messagesarraySimArray de objetos de mensagem
temperaturenumberNãoTemperatura de amostragem (0-2). Padrão: 1
max_tokensintegerNãoNúmero máximo de tokens a gerar
top_pnumberNãoParâmetro de nucleus sampling
streambooleanNãoSe as respostas devem ser transmitidas em streaming

Papéis das mensagens

As mensagens devem incluir um role e um content:

  • system - Define o comportamento/personalidade do assistente
  • user - Mensagens do usuário final
  • assistant - Respostas anteriores da IA

Respostas em streaming

Ative o streaming para receber as respostas de forma incremental:

1from openai import OpenAI
2 
3client = OpenAI(
4 api_key="YOUR_API_KEY",
5 base_url="https://aiberm.com/v1"
6)
7 
8stream = client.chat.completions.create(
9 model="gpt-4",
10 messages=[{"role": "user", "content": "Tell me a story"}],
11 stream=True
12)
13 
14for chunk in stream:
15 if chunk.choices[0].delta.content:
16 print(chunk.choices[0].delta.content, end="")

Boas práticas

Otimize suas solicitações
  • Defina max_tokens para limitar os custos
  • Use valores adequados de temperature (mais baixos para conteúdo factual, mais altos para criativo)
  • Inclua mensagens de sistema para orientar o comportamento
  • Transmita as respostas em streaming para uma melhor UX
Warning

Fique atento aos limites de tokens de cada modelo. Conversas mais longas podem exigir o gerenciamento do histórico da conversa.