Кто собирает инструменты, тот владеет границей

Много разговоров об ответственности в AI направлено на лабораторию, которая обучала модель. Это правильная мишень для некоторых вопросов. Это неправильная мишень для большинства вопросов, которые имеют значение, когда система начинает действовать.

Одну и ту же модель можно развернуть как помощника при редактировании без инструментов или как агента с доступом к электронной почте, API платежей и производственной базе данных. Веса не изменились. Граница изменилась. Человек, который выбрал, какие инструменты подключить, под какой идентичностью действует система, какие действия разрешены и где работают проверки, проделал работу, которая определяет, что может пойти не так.

Я думаю, что ответственность должна следовать за этой работой. Разработчик может подтвердить, на что модель была обучена и оценена. Сторона, собравшая систему, это единственная сторона, которая может подтвердить, что ей разрешено делать, потому что только она это решала.

Это не аргумент в пользу того, чтобы отпустить разработчиков с крючка. Это аргумент в пользу возложения обязательства туда, где было принято решение. Кто-то подключил инструмент, который может потратить деньги. Этот кто-то владеет границей, думал ли он о ней как о границе или нет.