Más capacidad, más memoria
Un modelo de mayor capacidad tiene más parámetros, y todos deben estar cargados en la memoria de la GPU para poder ejecutarlo.
El problema
El contexto cuesta GPU, y mucha
Los modelos de lenguaje actuales se basan en el Transformer. Funcionan muy bien, pero tienen un coste que crece deprisa con el tamaño del modelo y, sobre todo, con la cantidad de contexto que se le quiere dar.
Más contexto, más memoria
Por cada palabra ya leída, el modelo guarda datos intermedios (la caché de claves y valores). Esa memoria crece con el contexto: el doble de contexto, aproximadamente el doble de memoria, y esto se repite en cada conversación simultánea.
Más contexto, mucho más cálculo
La atención compara cada palabra con todas las anteriores. Duplicar el contexto multiplica por cuatro esas comparaciones. Hay técnicas que lo alivian, pero el coste sigue subiendo.
| Contexto | Memoria de contexto | Comparaciones de atención |
|---|---|---|
| ×1 | ×1 | ×1 |
| ×2 | ×2 | ×4 |
| ×4 | ×4 | ×16 |
| ×8 | ×8 | ×64 |
Escalado aproximado en un Transformer estándar, sin técnicas de optimización.
Con contextos muy largos, la memoria de contexto puede llegar a superar la de los propios parámetros. Por eso los modelos que cualquiera puede ejecutar en local suelen quedarse con contextos cortos, y los grandes necesitan mucha más GPU para ampliarlos.
De aquí nació la pregunta
¿Se puede lograr otro tipo de contexto, alternativo, que dé a los modelos locales y a los grandes un contexto amplio sin tanta GPU? Y si se puede, ¿por qué no crear un modelo que lo lleve integrado de forma nativa, en lugar de añadirlo por fuera? Esa es la parte de investigación de RAME. Sigue abierta: todavía no hay un sustituto general de los modelos actuales.
La historia
Cómo nació RAME
Todo empezó con una frustración práctica. Quería usar modelos de lenguaje más grandes en una GPU de consumo y me encontré con dos muros: el coste de la inferencia y, sobre todo, el del fine-tuning y el entrenamiento. Mi GPU no bastaba para los modelos grandes.
Lo que más me hizo pensar fue ver las horas y los recursos que se gastan en entrenar un modelo. Esa frustración me llevó a querer entrenar mis propios modelos de vídeo y a experimentar con los LLM.
Entonces me pregunté: ¿no se podría crear otro tipo de Transformer, uno que llevara de forma nativa un contexto alternativo? Empecé a estudiar a fondo cómo funcionan los modelos y de ese estudio nació RAME.
Qué significa RAME
- RRelationalRelacional
- AAdaptiveAdaptativa
- MMemoryMemoria
- EEngineMotor
Origen
¿Qué es RAME?
RAME —Relational Adaptive Memory Engine— nació en agosto de 2026 como un programa de investigación para explorar una arquitectura neuronal alternativa a los Transformers: procesamiento recurrente, estado persistente, memoria relacional y un coste de contexto que no dependa de releer continuamente todo el historial.
La investigación no ha producido todavía un sustituto general de los grandes modelos actuales, pero sí conocimientos, componentes y resultados reutilizables: memoria versionada, recuperación, aprendizaje progresivo, contextos largos, especialistas neuronales, cascadas entre modelos y políticas verificables para agentes.
RameSystem convierte en herramientas prácticas las capacidades que ya pueden utilizarse de forma responsable. RAME Core 2 continúa investigando el futuro cerebro neuronal propio.
Al principio la pregunta fue si se podía crear otro tipo de Transformer. Al estudiarlo a fondo, la investigación derivó hacia una arquitectura alternativa basada en recurrencia, estado persistente, memoria relacional y procesamiento incremental.
La familia RAME
Un programa de investigación y lo que sale de él
RAMEPrograma de investigación
- RAME Core y Core 2Cerebro neuronal experimental
- RAME-LabLaboratorio de primitivas y comparaciones
- RAME Video LabInvestigación temporal y visual
- RAME BaseMemoria práctica y verificable
- RameSystemHerramientas y componentes utilizables
RAME CodeProyecto público relacionado e independiente
Cronología
De la investigación al producto
La historia técnica de RAME es verificable en Git desde el 5 de agosto de 2026.
RAME Core
Primer núcleo recurrente propio, sin bloques Transformer ni Mamba. Se investigaron estado fijo, memoria relacional, procesamiento incremental y aprendizaje neuronal.
Nace RameSystem
Primer commit de la capa de herramientas, que irá incorporando los resultados utilizables de la investigación.
RAME-Lab
Laboratorio para comparar RAME con Transformers pareados y probar memoria vectorial, punteros, generación, relaciones, routers y escalado.
RAME Video Lab
Traslado de los principios recurrentes y de estado constante al vídeo, con resultados y límites propios.
Primeras cascadas verificadas de RameSystem
Una cascada real que sube desde modelos pequeños a otros mayores y regresa conservando el estado, probada con modelos reales.
RAME Code
Proyecto público independiente, empezado desde cero para el Meta Global AI Developer Hackathon 2026: un agente de programación verificable basado en modelos Meta Muse.
Investigación y método
Qué se probó y qué se aprendió
Los resultados positivos y los negativos se conservan por igual: una hipótesis rechazada también evita repetir caminos que ya demostraron no funcionar.
RAME Core
Núcleo neuronal recurrenteEstado fijo, memoria relacional y selección dispersa en un núcleo recurrente propio. Aprendió algunas tareas, pero su núcleo original quedó congelado como candidato principal porque no generalizaba lo suficiente.
Investigación · núcleo congeladoRAME Core 2
Investigación neuronalEl intento posterior: arquitectura recurrente propia, contexto largo con poca subida de memoria, preentrenamiento neuronal real, crecimiento progresivo y expertos y routers experimentales. Sigue siendo investigación y todavía no sustituye a ningún modelo de uso general.
Investigación experimentalRAME-Lab
Laboratorio de primitivasComparaciones con Transformers pareados y pruebas aisladas de memoria vectorial, punteros, generación byte a byte, relaciones, selectores y escalado. Dejó resultados útiles y muchos límites, y no produjo un cerebro conversacional terminado.
Investigación · resultados y límitesRAME Video Lab
Investigación temporal y visualAplicación al vídeo de los principios de recurrencia y de estado constante, con resultados y límites propios.
Investigación experimentalRAME Base
Sistema de memoria prácticoHechos vigentes e históricos con versiones, procedencia y confirmaciones; reinicios exactos, registro de aprendizaje en sombra y defensa ante contenido sin autoridad. Funcionó de forma conservadora y confirmada. Falló la decisión autónoma sobre qué guardar a partir de lenguaje libre.
Prototipo con límites conocidosCascadas de RameSystem
Escalada entre modelosUna cascada real entre modelos, de uno pequeño a otros mayores y de vuelta al pequeño, que conservó el estado al reanudar. Quedó sin resolver unir los detectores de errores con la cascada, decidir cuándo escalar con evidencia calibrada y demostrar que volver al modelo pequeño mantiene la calidad.
Probado con modelos reales · incompletoTrazabilidad, no superioridad
La familia RAME acumula más de mil iteraciones técnicas registradas, cientos de gates, auditorías y comparaciones controladas, y miles de casos de prueba automatizados.
~1.310commits en la historia de Core 2
770+documentos de resultados, preregistros, auditorías o benchmarks
~2.500casos de prueba declarados en Core 2
~130 · 78commits e informes experimentales de RAME-Lab
Un commit no equivale a un descubrimiento, ni un test automatizado a un experimento científico independiente. Estas cifras indican trazabilidad y esfuerzo; no demuestran superioridad frente a los Transformers.
Herramientas
RameSystem: lo que ya se puede usar
RameSystem convierte en herramientas prácticas las capacidades que ya pueden utilizarse de forma responsable.
Rame Agent
Motor de trabajoEl motor que convierte una petición en trabajo controlado.
Coordina modelos, archivos, terminal, herramientas externas, permisos y resultados. Su arquitectura modular permite utilizar distintos proveedores y modelos locales sin rediseñar toda la experiencia.
En desarrolloRame Memory
Verified Memory SidecarMemoria persistente para decisiones que deben sobrevivir a una conversación.
Rame Memory es un servicio externo de memoria versionada y auditable. Conserva decisiones verificadas, su procedencia y su historial. Un modelo puede consultar la información pertinente, pero no puede cambiar silenciosamente lo que el usuario autorizó.
Mecánica validada en prototipos · integración de producto en desarrolloRame Memory es la memoria externa y RAME Core 2 es una línea de investigación independiente: no son lo mismo y no se presentan como si lo fueran.
Cómo funciona
Del usuario al modelo, con control en cada paso
El usuario conversa en una interfaz; Rame Agent hace el trabajo y se conecta con el modelo elegido, la memoria y las herramientas.
- UsuarioConversa, revisa y autoriza.
- InterfazPlanes, permisos y cambios a la vista.
- Rame AgentCoordina modelo, archivos, terminal, herramientas y memoria.
- Modelo seleccionadoAPI, local o privado: el que elijas.
Rame MemoryHerramientas y MCPArchivos y terminal controladaProveedores mediante APIModelos locales
El modelo razona y propone. RameSystem controla las herramientas. El usuario mantiene la autoridad sobre los cambios importantes.
Memoria verificable
No se trata de recordarlo todo. Se trata de conservar correctamente lo importante.
Versión 1 · sustituida
Envío gratuito a partir de 50 €.
Versión 2 · vigente
Envío gratuito a partir de 60 €.
Historial conservado
Procedencia registrada
Código comprobado con la versión 1: marcado como desactualizado
Rame Memory conserva decisiones explícitas con versión, procedencia y autorización. Una sesión posterior puede recuperar la versión vigente sin depender únicamente del historial de chat.
La integración prevista permite consultar la memoria mediante interfaces controladas, como MCP o API, manteniendo la autorización de escritura en un canal separado.
Modelos
Una experiencia, diferentes modelos.
RameSystem está diseñado para trabajar mediante adaptadores con proveedores externos, APIs compatibles y modelos locales. Cada integración debe probarse y configurarse específicamente.
APIs de modelos
Proveedores externos mediante su API.
Modelos locales
Ejecución en tu propio equipo.
Servidores privados
Modelos alojados en tu infraestructura.
Futuros modelos RAME
Como RAME Core 2, cuando esté preparado.
Estas son categorías de integración previstas, no una garantía de compatibilidad comercial con ningún proveedor concreto.
Principios
Cómo lo estamos construyendo
Modular
Cambia de modelo sin cambiar toda tu forma de trabajar.
Recuperable
Las sesiones y los procesos están diseñados para poder reanudarse.
Revisable
Los cambios importantes pueden mostrarse antes de aplicarlos.
Auditable
Las decisiones conservan versiones, procedencia e historial.
Autor y otros proyectos
Quién está detrás
Soy Antoni Caimari Caldés. Llevo 25 años administrando servidores y estaba cansado de no tener una herramienta todo en uno hecha a mi medida, como alternativa a los paneles clásicos. Así que empecé a construirla yo mismo.
RAME es una de mis líneas de investigación. Estos son los otros proyectos en los que trabajo:
MuseDock CMS
Un CMS propio, modular y multi-sitio, con plugins, varios idiomas, temas y herramientas con IA. Empecé a desarrollarlo hace dos años.
Repositorio en GitHub ↗MuseDock Panel
Un panel de administración de servidores que estoy desarrollando este año: webs, correo, bases de datos, DNS, certificados SSL y replicación y failover entre servidores.
Repositorio en GitHub ↗Más sobre mi trabajo en caimari.com · musedock.com
Una capa de continuidad y control para agentes de inteligencia artificial.
RameSystem está construyendo las piezas que permiten a los agentes trabajar durante más tiempo, utilizar distintos modelos y conservar decisiones verificadas sin convertir el historial del chat en una autoridad opaca.
Contacto
¿Hablamos?
Si quieres seguir el desarrollo, probar lo que vaya saliendo o colaborar, escríbenos. Respondemos personalmente.
hello@ramesystem.com
RameSystem · un proyecto de Antoni Caimari Caldés