Dastan Aitzhanov
Я разрабатываю системы на базе ИИ и пишу о вопросах управления, которые возникают, когда они начинают действовать.
Я думаю об ИИ как владелец, а не только как инженер: кто это авторизовал, кто платит, кто владеет результатом, кто несет убытки и можно ли это остановить.
СейчасРазрабатываю и тестирую личную систему ИИ на основе долговечного приватного контекста, действий, остающихся в пределах явных полномочий, и работы, которая может переходить между собственными машинами человека и общим вычислительным ресурсом. Я публикую то, что выдерживает проверку.
Текущий вопрос
По мере того как системы ИИ переходят от ответов на вопросы к осуществлению делегированных полномочий, как эти полномочия следует предоставлять, ограничивать, проверять и отзывать?
Повторяющийся вопрос больше не только в том, что может произвести модель. Речь идет о том, что окружающая система должна позволить ей видеть, решать и делать.
Избранные работы
Меньшая модель с лучшей структурой
Независимое исследование · Оценка и технический материал
В 35 сквозных тестах корпоративного поиска Llama 3.1 8B с графом знаний обошла Llama 3.3 70B в одиночку: на 55% выше основной показатель, в 13 раз меньше затраты на входные токены, в 3 раза меньше задержка и проверяемая цепь вызовов инструментов.
Локальный ИИ и интеллектуальные леса
Независимое исследование · Эксперимент с системой и технический материал
Практический эксперимент по запуску меньшей локальной модели внутри явных границ агента, наблюдаемых рабочих процессов и независимых элементов управления.
Мониторинг промышленных активов с IoT и машинным обучением
Публичная техническая работа · Совместно написанная двухчастная техническая работа на AWS
Совместно разработанная архитектура AWS для подключения промышленной телеметрии, моделей активов, мониторинга, обучения машинному обучению и плановому выводу.
Человеческая проверка для прогностического обслуживания промышленного оборудования
Публичная техническая работа · Совместно написанная техническая работа на AWS
Совместно разработанная техническая работа AWS, связывающая обнаружение аномалий, человеческую проверку, улучшение набора данных и переподготовку модели для промышленного оборудования.
Исследовательские направления
Четыре вопроса связывают эксперименты, очерки и краткие заметки.
Делегированные полномочия
Что меняется, когда система ИИ переходит от создания информации к принятию мер?
Личный ИИ
Что должно оставаться рядом с человеком, когда ИИ становится частью обычных вычислений?
Распределенное управление
Где прикрепляется политика, когда вычисления пересекают независимо владеемые машины?
Владение и стимулы
Кто решает, кто несет риск и кто остается ответственным?
Недавние материалы
Управление границей
Правила на основе моделей предполагают, что возможности дефицитны. По мере того как способные модели становятся малыми и дешевыми, прочное место для прикрепления политики — это слой, который решает, что может делать система ИИ.
Способность — это не согласие
Распределенные вычисления обычно рассматриваются как проблема поиска доступных машин. Более сложный вопрос в том, кто имеет право решать, что эти машины будут делать.
Вероятностный интеллект, детерминированное управление
Генеративные модели предназначены для рассуждений, которые всё ещё открыты. Повторяющиеся решения требуют более узкую модель, а повторяющиеся действия требуют обычного программного обеспечения.
Недавние идеи
Агент может нести ответственность за ошибку. Он не может нести ответственность за её стоимость.
Подотчетность означает нести убытки. Агент, который тратит деньги, которые не может вернуть, нуждается в установленном лимите до того, как он действует, а не в извинении после.
Автономность должна масштабироваться с обратимостью
Полезный вопрос не в том, является ли агент ИИ автономным, а в том, сколько автономности имеет смысл для конкретного действия.
Уточнение — часть интеллекта
Система, которая уверенно выполняет неправильную задачу, не умнее той, что знает, когда ей нужно спросить.
Новизна принадлежит моделям. Повторение принадлежит ПО.
Используйте генеративную модель, чтобы найти путь в первый раз. Как только путь повторяется, назовите его. Не платите модели за переоткрытие.
Связаться со мной
Я хочу услышать от людей, которые разбираются в том, как должны управляться системы ИИ, когда они действуют: разработчики, устанавливающие их границы, и команды, ответственные за их поступки. Напишите мне на dastan.aitzhanov@gmail.com.