Modelos con thinking y reasoning en Ollama

Qué es el thinking en los modelos

Algunos modelos de lenguaje están entrenados para mostrar un rastro de razonamiento antes de dar la respuesta final. En lugar de generar solo el texto de salida, emiten primero un bloque de thinking (pensamiento interno) y después el content (respuesta al usuario). Eso permite que el modelo "piense paso a paso" en tareas de lógica, matemáticas o razonamiento complejo, lo que suele mejorar la precisión y la trazabilidad del proceso.

En Ollama, los modelos que soportan esta capacidad exponen un campo thinking en la respuesta, distinto del campo content (o response en /api/generate). Puedes usar el thinking para auditar los pasos del modelo, mostrarlo en una interfaz o ocultarlo cuando solo te interese la respuesta final.

El thinking está pensado para tareas que requieren razonamiento extendido. En preguntas triviales o muy cortas puede no aportar mucho, y en problemas de lógica, matemáticas o análisis detallado suele marcar la diferencia.

Modelos que soportan thinking

No todos los modelos de la biblioteca de Ollama incluyen thinking. Los que lo hacen suelen estar etiquetados en la web de Ollama bajo la categoría de thinking models. Algunos ejemplos habituales son:

• DeepSeek R1 y DeepSeek-v3.1: modelos orientados a razonamiento.
• Qwen 3: soporta thinking con el parámetro booleano think.
• GPT-OSS: en lugar de true/false, usa niveles low, medium o high para controlar la longitud del rastro, y el thinking no se puede desactivar por completo.

Puedes consultar el listado actual en la sección de thinking models en el sitio de Ollama. Antes de usar thinking en producción, comprueba que el modelo que tienes instalado (por ejemplo con ollama list) soporte esta capacidad.

Activar thinking en la API

En los endpoints /api/chat y /api/generate puedes activar el thinking añadiendo el campo think en el cuerpo de la petición. La mayoría de modelos aceptan un booleano (true o false). En la respuesta, el razonamiento va en message.thinking (chat) o thinking (generate), y la respuesta final en message.content o response.

Ejemplo con curl y /api/chat:

curl http://localhost:11434/api/chat -d '{
  "model": "qwen3",
  "messages": [{
    "role": "user",
    "content": "¿Cuántas letras r hay en la palabra strawberry?"
  }],
  "think": true,
  "stream": false
}'

En Python con la librería oficial:

from ollama import chat

response = chat(
  model='qwen3',
  messages=[{'role': 'user', 'content': '¿Cuántas letras r hay en strawberry?'}],
  think=True,
  stream=False,
)

print('Razonamiento:', response.message.thinking)
print('Respuesta:', response.message.content)

Si usas streaming, los fragmentos de thinking y de content pueden llegar entremezclados. El primer fragmento que tenga message.thinking indica que ha empezado el bloque de razonamiento. Cuando empiece a llegar message.content, puedes cambiar a mostrar la respuesta final. Así puedes animar el "pensamiento" en la interfaz y luego la contestación.

Para GPT-OSS debes usar think con el valor "low", "medium" o "high". Pasar true o false no tiene efecto en ese modelo.

Uso desde la CLI

Desde la línea de comandos puedes activar o desactivar el thinking con las opciones de ollama run:

• Activar thinking en una ejecución: ollama run deepseek-r1 --think "¿Es 9.9 mayor o menor que 9.11?"
• Desactivar thinking: ollama run deepseek-r1 --think=false "Resume este artículo en una frase."
• Ocultar el thinking pero seguir usándolo internamente: ollama run deepseek-r1 --hidethinking "¿Es 9.9 mayor o menor que 9.11?" (útil cuando quieres la precisión del razonamiento pero no mostrar el texto al usuario).

Dentro de una sesión interactiva (ollama run modelo), puedes alternar con /set think y /set nothink.

flowchart LR
  U[Usuario] -->|Prompt| C[Cliente]
  C -->|think: true| S[Servidor]
  S --> M[Modelo thinking]
  M --> S
  S -->|thinking + content| C
  C --> U

El cliente envía la petición con think activado. El servidor ejecuta el modelo y devuelve tanto el thinking como el content, de modo que el cliente puede presentarlos por separado.

En la API y en la CLI, el thinking suele estar activado por defecto para los modelos que lo soportan. Si no quieres el rastro de razonamiento, desactívalo explícitamente con think: false o --think=false.