AGORA

Что такое AGORA

Одна модель ошибается одинаково и молча. Форум разных моделей спорит — и из спора рождается решение, которое можно проверить, улучшить со временем и предъявить регулятору. AGORA превращает это в инфраструктуру.

Три вещи, которые делает мозг

Форум: истина из спора

Ядро — не «голосование моделей», а роль-осведомлённый дебат. Каждая персона = СТАНС на РАЗНОМ семействе моделей (некоррелированные ошибки — в этом ценность).

Диссентер (skeptic) держит зарезервированное место и оценивается на «ретроспективной правоте», а не на победах — иначе bandit за 30–50 итераций убил бы диверсити. Это принцип P3. Подробнее о персонах — в обзоре AGORA.

Умный роутер и обучающийся мозг

Роутер выбирает модель не случайно и не по прайсу, а по тому, кто выигрывает на ВАШЕМ классе задач — и становится точнее с каждым проверенным исходом.

Почему «составная награда», а не «тест прошёл»

Голый tests_passed ломается законом Гудхарта: модель напишет запутанный код, который формально проходит тесты, или сгенерирует тесты сама себе. Поэтому награда — взвешенная, а компонент тестов считается только от внешних тестов репозитория (модель не оценивает свою же домашку):

reward = 0.4·tests_passed + 0.3·pr_merged_no_revision
       + 0.2·(1−review_rounds) + 0.1·token_efficiency

Обучение включается ПО КЛАССАМ, а не сразу

У кодинг-задач истина быстрая (тест за секунды) — на них можно учиться. У AML/KYC истина зреет 30–90 дней; учиться рано = выучить «groupthink-прокси». Поэтому класс переходит из shadow (логируем, не применяем) в live только когда судья откалиброван: κ≥0.7 при N≥50 и есть независимая человеческая оценка. До тех пор мозг честно говорит: «учусь тихо, в бой не включаю».

Закрытый контур: доказательства, деньги, безопасность

«Закрытый контур» — это то, что отличает governance от роутера: каждое утверждение проверяемо, каждый доллар учтён, каждая egress-точка под tripwire.

Проверяемые утверждения

Любое заявление можно превратить в тестируемое предсказание и проверить детерминированно (read-only проба, secret-scrubbed). confirmed=false = коробка сама опровергла заявление — это и есть ценный сигнал.

Client-owned audit — как это работает

«Client-owned» — это threat-model: вы можете доказать целостность аудита, даже не доверяя AGORA. Механизм:

• Ключ держите ВЫ (Ed25519): подпись вашим ключом, приватный ключ не покидает ваш контур; публичный — отдаёте регулятору, он верифицирует без доверия к нам.
• Hash-chain поверх append-only-лога + внешний якорь (дайджест → ваш S3 Object Lock, daily) — вставка/удаление ломает цепочку; якорь мы переписать не можем.
• Открытый agora-verify (отдельный репо) — вы проверяете chain + подписи сами.

Деньги

Per-consumer виртуальные ключи с бюджетами (fail-closed: over-budget = отказ, не тихий даунгрейд). Spend атрибутируется по ключу — основа chargeback-биллинга, отдельного от «полиции людей».

Цифры, которые мы показываем

AGORA опирается на телеметрию, а не на обещания. Три доказательства — и все из реальных данных вашего контура, видимые в панели мониторинга.

PP1 · Экономия с доказательством

Сколько $ сэкономлено на токенах, с разбивкой по task_class — видна логика (code_gen→GPT-4o, simple_qa→Haiku). Источник: spend per-model + usage_report.

PP2 · Обучение, которое видно

Не веса и лоссы, а история решений во времени:

[Нед 1]  code_review → GPT-4o    tests_passed ✓  но дорого
[Нед 3]  code_review → Sonnet    tests_passed ✓  −40% стоимость   (роутер сам выбрал)
[Нед 8]  confidence(Sonnet, code_review) κ=0.84 → learning update активирован
→ «Система стала умнее за 8 недель. Без единой строки конфига от вас.»

PP3 · Drift как страховка

Сколько дрифт-событий поймано и сколько потенциальных потерь предотвращено. Резонирует с любой командой, у кого был инцидент с молча деградировавшей моделью.

Бизнес: позиционирование, моат, GTM

Главный принцип: не конкурировать на «дешевле токены» (это коммодити — RouteLLM OSS, Bedrock нативно). Конкурировать на «кто отвечает за то, что ИИ решил, и докажет это».

Моат — три горизонта (честно: что есть / что строится)

Почему RouteLLM и Bedrock структурно не догонят

Для кого

Команды с ИИ в продакшне, которым важны три вещи разом: контроль расходов, качество решений и аудируемость — финтех и регулируемые отрасли, AI-heavy продукты, компании с несколькими командами на разных моделях.

Как команды внедряют AGORA

Путь — от наблюдения к управлению, без риска на входе:

1. Тихая установка для наблюдения. Шлюз в вашем контуре только смотрит и считает — собирает картину расходов и решений за пару недель. Вы видите СВОИ цифры на реальных данных.
2. Адаптивный роутинг. Включаем выбор модели на лету и обучение на ваших исходах — экономия становится измеримой, а не обещанной.
3. Полный governance. Делиберация + аудит + SLA для команд, где цена ошибки высока.

Рынок уже движется сюда (проверенные данные индустрии)

Ландшафт: где мы и где они

Роутинг — коммодити, это правда. Но «учиться на ВАШИХ верифицируемых исходах + аудит, принадлежащий клиенту + роль-делиберация» не делает никто. Это проверено по живым продуктам, не на словах.

Две главные угрозы — и где они слабы

* «client-owned аудит»: V1 построен — ваш ключ + RDR hash-chain + open-source верификатор (подделка ловится по публичному ключу); learning-audit + regulator-pack — дальше. Механизм — глава IV.