Управление границей
Правила на основе моделей предполагают, что возможности дефицитны. По мере того как способные модели становятся малыми и дешевыми, прочное место для прикрепления политики — это слой, который решает, что может делать система ИИ.
Статьи
Развёрнутые размышления о способных системах, людях, которые остаются за них ответственны, и экономике, лежащей в основе обоих.
Исследовательские направления
Четыре вопроса связывают развёрнутые размышления. Каждый неполный по замыслу.
- 02
Личный AI
Что должно оставаться рядом с человеком, когда ИИ становится частью обычных вычислений?
Начните с «Компьютер должен быть личным снова» - 03
Распределённое управление
Где прикрепляется политика, когда вычисления пересекают независимо владеемые машины?
Начните с «Способность — это не согласие» - 04
Собственность и стимулы
Кто решает, кто несет риск и кто остается ответственным?
Начните с «Что замечают владельцы»
Ещё статьи
Размышления, для которых требовалось больше места, чем для идеи.
Способность — это не согласие
Распределенные вычисления обычно рассматриваются как проблема поиска доступных машин. Более сложный вопрос в том, кто имеет право решать, что эти машины будут делать.
Вероятностный интеллект, детерминированное управление
Генеративные модели предназначены для рассуждений, которые всё ещё открыты. Повторяющиеся решения требуют более узкую модель, а повторяющиеся действия требуют обычного программного обеспечения.
Что замечают владельцы
Когда анализ дешёв, организацию всё ещё определяет, кто имеет право принимать решения. Заметка о собственности, параллельно техническому вопросу.
Компьютер должен быть личным снова
Локальный вывод важен не как эталон, а как вопрос о том, где человеку позволено размещать своё мышление.
Контекст — это продукт
Что модель может видеть — это одна граница. Что она может решать, и что система может делать, — это две другие.