Придай ИИ статус
Современный искусственный интеллект — это бестелесное существо, свободное от телесных ограничений, но обладающее зачатками когнитивной жизни: он «видит» и «слышит» данные, «мыслит» в терминах вероятностей и «решает» проблемы в реальном времени.
ИИ может влиять на нашу жизнь, например, записывая к врачу или согласовывая банковские кредиты. Однако у него нет собственных намерений, желаний, целей или чувств, он лишь моделирует поведение человека.
Это делает его опасным в ряде ситуаций. Профессор кафедры теоретической и социальной философии СГУ Денис Артамонов и Софья Тихонова считают, что ИИ следует наделить статусом «ограниченный участник социальных и правовых отношений», «технический агент человека».
Это позволит правовой системе признать их статус ограниченной субъектности. Денис Артамонов отмечает, что ИИ остаётся нечеловеческим агентом, но оценка его влияния требует специальных механизмов ответственности, аудита, регулирования и гуманитарной экспертизы.
Софья Тихонова подчёркивает, что до внедрения алгоритмов в практику разработчики искусственного мышления должны придерживаться базовых критериев. Гуманитарный надзор может включать оценку рисков дискриминации человека, проверку прозрачности и объяснимости решений, анализ влияния на трудовые отношения, образование, частную жизнь и социальное неравенство.
Профессор предлагает дать возможность пользователям и третьим лицам понимать, как можно оспорить автоматизированное решение и как проводится аудит алгоритма. Это позволит точнее определять, кто отвечает за вред, ошибку или дискриминационное решение.
Несмотря на то, что объём использования ИИ велик, можно обучить оценивать действия нейросетей с точки зрения негативных последствий для человека и общества тот же ИИ. Однако вопрос распределения вины между разработчиками, пользователями данными и самими системами остаётся проблематичным.
Софья Тихонова считает, что рассмотрение вопроса уравнивания ИИ с человеком начнётся тогда, когда он сам нас об этом попросит. Однако к тому времени мы должны обладать системой гуманитарного контроля, чтобы отличать «чистую волю» ИИ от попыток манипуляции со стороны людей.
