Capítulo 3: El panorama actual de los LLM

Introducción

El panorama de los LLM ha evolucionado rápidamente desde 2020, con grandes empresas tecnológicas, laboratorios de investigación y comunidades open-source contribuyendo a un ecosistema cada vez más diverso. Este capítulo revisa los actores clave y sus ofertas.

Principales proveedores de LLM

OpenAI

La empresa que impulsó la revolución moderna de los LLM.

Modelos clave:

Modelo	Lanzamiento	Contexto	Capacidades
GPT-3.5	2022	4K/16K	Chat, código, razonamiento
GPT-4	2023	8K/32K/128K	Multimodal, razonamiento avanzado
GPT-4o	2024	128K	Optimizado, más rápido

Fortalezas:

• Capacidades líderes en la industria
• Amplio ecosistema de API
• Mejoras continuas

Consideraciones:

• Pesos propietarios/cerrados
• Costos de uso
• Dependencia de la API

# OpenAI API example
from openai import OpenAI

client = OpenAI()
response = client.chat.completions.create(
    model="gpt-4",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Explain transformers in one sentence."}
    ]
)
print(response.choices[0].message.content)

Anthropic

Fundada por ex-investigadores de OpenAI, enfocada en la seguridad de la IA.

Modelos clave:

Modelo	Lanzamiento	Contexto	Capacidades
Claude 2	2023	100K	Contexto largo, seguridad
Claude 3 Haiku	2024	200K	Rápido, eficiente
Claude 3 Sonnet	2024	200K	Equilibrado
Claude 3 Opus	2024	200K	Más capaz

Diferenciadores:

• Enfoque de IA Constitucional
• Alineación de seguridad excepcional
• Ventanas de contexto muy largas

# Anthropic API example
import anthropic

client = anthropic.Anthropic()
message = client.messages.create(
    model="claude-3-sonnet-20240229",
    max_tokens=1024,
    messages=[
        {"role": "user", "content": "What is Constitutional AI?"}
    ]
)
print(message.content)

Google DeepMind

Combinando la experiencia de Google Brain y DeepMind.

Modelos clave:

Modelo	Lanzamiento	Contexto	Capacidades
PaLM 2	2023	8K-32K	Multilingüe, razonamiento
Gemini Pro	2023	32K	Multimodal
Gemini Ultra	2024	32K+	Capacidades de frontera
Gemini 1.5	2024	1M+	Contexto extremo

Fortalezas:

• Recursos computacionales masivos
• Multimodal desde su concepción
• Integración con servicios de Google

Meta AI

Líder en el desarrollo de LLM open-source.

Modelos clave:

Modelo	Lanzamiento	Parámetros	Licencia
Llama	2023	7B-65B	Solo investigación
Llama 2	2023	7B-70B	Comercial
Llama 3	2024	8B-70B+	Comercial
Code Llama	2023	7B-34B	Comercial

Impacto:

• Democratización del acceso a LLM
• Habilitó el ecosistema de fine-tuning
• Competitivo con modelos cerrados

Ecosistema open-source

El movimiento open-source

Los LLM open-source han pasado de ser curiosidades de investigación a alternativas listas para producción:

2020: GPT-2 released (1.5B)
2022: BLOOM released (176B) - Primer modelo abierto de más de 100B
2023: Fuga de Llama → explosión de la comunidad
2023: Mistral 7B iguala a GPT-3.5 en algunos benchmarks
2024: Modelos abiertos se acercan a GPT-4 en muchas tareas

Modelos abiertos clave

Mistral AI:

# Mistral model sizes
mistral_models = {
    "Mistral-7B": {
        "params": "7B",
        "context": 8192,
        "specialty": "General purpose, efficient"
    },
    "Mixtral-8x7B": {
        "params": "46.7B (12.9B active)",
        "context": 32768,
        "specialty": "Mixture of Experts"
    },
    "Mistral Large": {
        "params": "Unknown",
        "context": 32768,
        "specialty": "Frontier model"
    }
}

Otros modelos abiertos destacados:

Modelo	Organización	Parámetros	Especialidad
Falcon	TII	7B-180B	Multilingüe
MPT	MosaicML	7B-30B	Amigable para uso comercial
Qwen	Alibaba	7B-72B	Multilingüe (chino)
Yi	01.AI	6B-34B	Arquitectura eficiente
Phi	Microsoft	1.3B-3B	Pequeño pero capaz

Hugging Face Hub

El repositorio central para modelos abiertos:

from transformers import AutoModelForCausalLM, AutoTokenizer

# Load any model from the Hub
model_name = "mistralai/Mistral-7B-Instruct-v0.2"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

# Generate text
inputs = tokenizer("Explain LLMs:", return_tensors="pt")
outputs = model.generate(**inputs, max_new_tokens=100)
print(tokenizer.decode(outputs[0]))

Abierto vs. cerrado: compensaciones

Modelos cerrados/propietarios

Ventajas:

• ✅ Máxima capacidad (usualmente)
• ✅ Acceso sencillo vía API
• ✅ No requiere infraestructura propia
• ✅ Actualizaciones regulares

Desventajas:

• ❌ Sin control de fine-tuning
• ❌ Costos de uso
• ❌ Preocupaciones de privacidad de datos
• ❌ Dependencia del proveedor

Modelos de pesos abiertos

Ventajas:

• ✅ Control total
• ✅ Despliegue local/privado
• ✅ Fine-tuning personalizado
• ✅ Sin costos por token

Desventajas:

• ❌ Requiere infraestructura
• ❌ Usualmente menor capacidad
• ❌ Actualizaciones autogestionadas
• ❌ Se requiere experiencia técnica

Marco de decisión

def choose_model_type(requirements):
    if requirements.get("max_capability"):
        return "Closed (GPT-4, Claude 3 Opus)"
    
    if requirements.get("data_privacy") or requirements.get("custom_training"):
        return "Open (Llama, Mistral)"
    
    if requirements.get("low_latency") and requirements.get("high_volume"):
        return "Open (self-hosted)"
    
    if requirements.get("quick_prototype"):
        return "Closed (any major API)"
    
    return "Evaluate both options"

Modelos especializados

Modelos enfocados en código

Modelo	Fuente	Capacidades
Code Llama	Meta	Autocompletado de código, infilling
StarCoder	BigCode	Generación de código
DeepSeek Coder	DeepSeek	Programación multilenguaje
Copilot	GitHub/OpenAI	Integración en IDE

Modelos específicos de dominio

Dominio	Modelos de ejemplo
Médico	Med-PaLM, BioMistral
Legal	Derivados de Legal-BERT
Finanzas	BloombergGPT, FinGPT
Científico	Galactica, SciBERT

Dinámica del mercado

Tendencias de precios

# Approximate pricing (per 1M tokens, as of 2024)
pricing = {
    "GPT-4 (8K)": {"input": "$30", "output": "$60"},
    "GPT-4 Turbo": {"input": "$10", "output": "$30"},
    "GPT-3.5 Turbo": {"input": "$0.50", "output": "$1.50"},
    "Claude 3 Opus": {"input": "$15", "output": "$75"},
    "Claude 3 Sonnet": {"input": "$3", "output": "$15"},
    "Claude 3 Haiku": {"input": "$0.25", "output": "$1.25"},
    "Mistral Large": {"input": "$8", "output": "$24"},
    "Open Models": "Infrastructure costs only",
}

Impacto de la competencia

El entorno competitivo ha impulsado:

1. Mejoras rápidas en capacidades
2. Caída de precios (GPT-4 Turbo 3x más barato que GPT-4)
3. Ventanas de contexto más largas (4K → 128K → 1M+)
4. Mejores alternativas open-source

Cómo elegir el modelo adecuado

Criterios de evaluación

criteria = {
    "capability": "How well does it perform on your tasks?",
    "cost": "Per-token pricing or infrastructure costs",
    "latency": "Response time requirements",
    "context": "How much text do you need to process?",
    "privacy": "Can data leave your environment?",
    "customization": "Do you need fine-tuning?",
    "reliability": "Uptime and consistency requirements",
}

Evaluación para su caso de uso

Siempre pruebe en SU caso de uso específico:

def evaluate_model(model, test_cases):
    results = []
    for case in test_cases:
        response = model.generate(case["prompt"])
        score = evaluate_response(response, case["expected"])
        results.append({
            "case": case["name"],
            "score": score,
            "latency": response.latency,
            "tokens": response.token_count
        })
    return aggregate_results(results)

Tendencias futuras

Qué observar

1. Escalado continuo - Modelos cada vez más grandes y capaces
2. Mejoras de eficiencia - Modelos pequeños igualando a los grandes
3. Multimodalidad - Texto, imágenes, audio, video en un solo modelo
4. Especialización - Proliferación de modelos específicos de dominio
5. Paridad open-source - Cerrando la brecha con modelos cerrados

Puntos clave

Summary

1. OpenAI, Anthropic, Google, Meta son los principales actores
2. Los modelos open-source son cada vez más competitivos
3. Existen compensaciones entre capacidad, control y costo
4. Modelos especializados atienden dominios específicos
5. El panorama evoluciona rápidamente - manténgase actualizado

Mirando hacia adelante

Ahora que entendemos el panorama de los LLM, estamos listos para profundizar en la arquitectura que impulsa estos modelos. El Módulo 2 explorará la arquitectura Transformer en detalle, comenzando con el mecanismo de atención.

---

← Capítulo 2: Historia

Quiz del Módulo 1 →