🧜‍♀️ Объединение человека и ИИ - гибриды, кентавры, обратная связь и пр.

Одна из важных проблем современного ИИ состоит в гармоничном и эффективном совмещении с человеком для восполнения недостаточного функционала, постановки задач, оценки результатов. За развития ИИ (и технологий в целом) появились различные подходы к гибридизации, отличающиеся подходами и позиционированием.

1️⃣ Идея расширение интеллекта (Intelligence Augmentation, IA) появилась одной из первых еще в 60-х годах прошлого века, высказанная Дугласом Энгельбартом в ходе обсуждения “усиления интеллекта” в контексте становления кибернетики [1]. Речь шла об асимметричном и в первую очередь инструментальном взгляде на машину как на “протез” или “усилитель” человека с акцентом на обеспечение наилучшего для этих целей интерфейса взаимодействия [2]. Более современным вариантом с четкой ориентацией на задачи является концепция кентавров.

2️⃣ Важными концепциями является построение явного цикла обратной связи и управления человек-машина (Human-in-the-Loop, HITL). При этом возникает вопрос уровня и соответствующей шкалы автономности агента ИИ от полной автономности до инструментальной пассивности ИИ [3]. В рамках шкалы формируются вторичные понятия human-out-of-the-loop, human-on-the-loop и т.п. [4]. Важным сегодняшним шагом является блок методов RLHF.

3️⃣ Концепция смешанной инициативы (Mixed-Initiative Interaction, MII) Эрика Хорвица, предложенная в конце 90-х [5], поднимает другой вопрос: кто инициирует взаимодействие и как обеспечить сопряжение человека с ИИ. Будучи инструментально-протокольной она фокусируется на определении инициирующей стороны и распределении задач [6].

4️⃣ Важным моментом является возникновение концепций общих когнитивных и ментальных систем. Примерами могут служить концепция единой когнитивной системы (Joint Cognitive Systems, JCS), ориентированная на описание совместных когнитивных ресурсов [7], а также концепция Human-Autonomy Teaming (HAT), фокусирующаяся на совместной постановке целей, намерений через совместные ментальные модели, командную психологию и когнитивные процессы в сложных социотехнических системах [8].

5️⃣ Наконец, сегодня часто речь идет о гибридных интеллектуальных системах (Hybrid Intelligence, HI) с фокусом на агентное представление и взаимодействие агентов ИИ и агентов-людей в рамках синергии с индивидуальными сильными и слабыми сторонами [9,10].

🤔 Можно выделить три ключевые группы концепций: а) инструментальные / инженерные, сфокусированные на задаче (IA, HITL); б) операциональные / протокольные, сфокусированные на анализе и построении протоколов и единых систем взаимодействия (MII, HAT); в) когнитивно-системные, сфокусированные на объединении когнитивных характеристик гибридной системы (JCS, HI). При этом можно определить две шкалы: конструктивность (построение систем, а не аналитика/протоколы) - лучше у группы а; глубину когнитивной проработки (когнитивные, а не интеллектуальные системы) - лучше у группы в. Мы в свою очередь пытаемся развить эту историю в концепции гибридных когнитивных систем (ГКС), сочетающей обе характеристики [11].

Ссылки:
[1] Intelligence amplification
[2] Augmented intelligence vs. artificial intelligence
[3] Human-in-the-Loop Artificial Intelligence
[4] Architecting Human-AI Cocreation for Technical Services
[5] Principles of mixed-initiative user interfaces
[6] How Users Perceive Mixed-Initiative AI
[7] Joint cognitive systems: Foundations of cognitive systems engineering
[8] Human–Autonomy Teaming
[9] Hybrid Intelligence in Action
[10] The future of human-AI collaboration
[11] Базовые принципы построения гибридных когнитивных систем