· Хабр

Жозе Валим предложил адаптировать языки программирования под ИИ-агентов

Создатель Elixir Жозе Валим заявил о необходимости адаптировать языки программирования и инструменты разработки под ИИ-агентов, а не человека. По его мнению, цифровую среду можно быстро изменить и создать для моделей принципиально новые условия взаимодействия вместо привычного синтаксического сахара.

Читать в первоисточнике — Хабр ↗

Ещё в ленте

· Google AI · Продукты

Google опубликовала обзор новостей искусственного интеллекта за сентябрь

Компания Google выпустила видеоролик с демонстрацией последних анонсов и обновлений в сфере ИИ за сентябрь. В материале представлены ключевые изменения и разработки за прошедший месяц.

· Хабр · Модели · Исследования

Оптимизация выбора инструментов для локальных языковых моделей в ИИ-оркестраторе

Разработчик исследовал механизмы работы с инструментами для локальной модели Qwen 27B на видеокарте RTX 3090 в системе с более чем 90 функциями. Вместо передачи полного каталога инструментов был реализован предварительный роутер, сокращающий их выборку примерно до двадцати в зависимости от контекста запроса. Решение направлено на качественное и быстрое выполнение корпоративных задач на локальном оборудовании в закрытом контуре.

· Хабр · Модели · Исследования

Роль KV-кэша в оптимизации инференса авторегрессионных трансформеров

Использование KV-кэша делает современные авторегрессионные трансформеры применимыми на практике, избавляя от повторного вычисления попарных произведений ключей и запросов для каждого токена. Механизм позволяет разменивать память на скорость и рассчитывать токен за линейное время. При этом ключевым лимитирующим фактором работы модели становится пропускная способность памяти.