Вчера я был на встрече бизнес-сообщества. Обсуждали «Как оставаться человеком в эпоху ИИ». В зале — предприниматели, адвокаты, психологи. Говорили о том, как работать с ИИ, что прокачивать, чтобы не терять в себе человека, как прокачивать сотрудников, можно ли увольнять людей, если их место занимает алгоритм и т.п.
Я айтишник с 19летним стажем. Мог бы испортить им завтрак рассказами о том, как всё устроено внутри, про отсутствие сознания и вероятностные модели. Не стал, но пост об этом написать хочется.
ИИ не личность
Начну с главного. Современный ИИ — не личность. Он не чувствует, не переживает, у него нет своих убеждений. Это устройство, как автомобиль, ручка или микрофон.
Когда вы общаетесь с большой языковой моделью, она не думает. Она предсказывает следующее слово, пиксель, ноту. Буквально на основе триллионов примеров подбирает самый вероятный токен. Получается связно, выглядит осмысленно. И нам кажется, что за словами стоит какое-то «я». Это иллюзия. Мы видим смысл там, где его нет, просто потому что так устроен наш мозг.
Тут похоже на парейдолию, когда мы одушевляем то, что похоже на одушевлённое.
ИИ не мечтает, не сомневается, не ставит целей. Даже когда модель говорит «я осознаю, что у меня нет эмоций», — это не акт самосознания, а шаблонный ответ, собранный из похожих фраз в обучающих данных.
Не обесцениваем
И всё же: не обесцениваем эти системы словами вроде «это просто статистика». Это не просто статистика — это статистика, которая решает очень сложные задачи и работает с огромными объемами данных. В узких областях она уже сейчас соображает лучше человека. Просто «соображает» не значит «живёт».
Интеллект и сознание — разные вещи. Калькулятор считает быстрее нас, но не страдает.
Зеркало не созидает
Хорошая метафора: ИИ — это зеркало. Он отражает всё, что накопило человечество, но не чувствует отражённого. Или ещё: горка знаний. Вы своим вопросом-промптом толкаете шарик в нужную сторону. Дальше идёт синтез следующего символа или пикселя. ИИ всё равно, куда катиться этот шарик. Выбор делаете вы своей волей и сознанием.
Остаемся человеками
Теперь про работу и увольнения. Я слышал на встрече много тревоги. Но надо дерзать в голове, что бизнес — штука рациональная. Если раньше тысяча человек с лопатами перекапывала поле, а теперь один трактор с автопилотом делает то же самое, никто не будет спорить с экономикой и из жалости нанимать 1000 копателей (привет, Механическое пианино).
В офисе происходит то же самое. Раньше сто сотрудников отвечали на звонки, писали отчёты, готовили документы. Теперь один ИИ-менеджер (оператор? инженер?) с нормальными инструментами делает эту работу быстрее. Кого-то заменят, потому что это дешевле, проще и выгоднее. От этого не убежать и нет смысла пытаться.
Про суррогаты вокруг нас посмотрите статью Автотюн, фотошоп и секс-шоп. Чем ИИ хуже?
И всё же ИИ не забирает у нас человечность. У него её просто нет, а у нас её не вынешь, как батарейку.
Мы остаёмся теми, кто толкает шарик с горки. Кто решает, в какую сторону он должен катиться. Кто видит смысл и несёт за него ответственность. Зеркало нас не заменит. Оно только отражает, а свет сознания и выбор направления по-прежнему идут от нас.
Комментариев нет:
Отправить комментарий