В соревновании с искусственным интеллектом человек обречен — лучше и не пробовать

Робот освободил нас от рутинных интеллектуальных операций — это комфортно. Мне, например, не нужно анализировать цены в сотнях магазинов, когда я ищу нужный товар. Скажем, тренажер. Эту работу уже проделал робот. Но если я пойду дальше — пущу AI (artificial intelligence, искусственный интеллект — прим. ред.) к личным данным с носимых устройств и позволю ему пристальнее, чем я, прислушаться к моим особенностям и желаниям, то решать, что мне нужен именно этот тренажер, будет уже не тренер, а AI. Он же составит программу занятий. Если робот сочтет, что я болен, — то и курс лечения. Если машина решит, что мне не стоит жить, то так и будет. Если у робота появятся геномные данные всего человечества, судьба цивилизации окажется в его руках.

Перед нами маячит перспектива зависимости от своих собственных творений и полного проигрыша им — утраты собственной идентичности. Мы изобретаем инструменты, снижающие потребность в человеческом труде, значительно быстрее, чем можем найти новое применение высвободившейся рабочей силе. Уже пострадали представители даже такой, казалось бы, сложной профессии, как банковские клерки.

Революция, которую несет с собой внедрение AI, отличается от промышленной. Пару веков назад машины конкурировали с мышцами человека, помогая нам в рытье канав и переносе тяжестей. Сейчас роботы соревнуются с человеческим мозгом. Чтобы тело не атрофировалось от недостатка физического труда, мы придумали фитнес. Но сможем ли мы придумать аналогичную «компенсаторную» нагрузку для мозга? Это большой вопрос. Мы — биохимический компьютер, мы часто мыслим паттернами, воспринятыми через культуру. Нервная и гормональная системы человека, взаимодействуя, рождают эмоции, которые влияют на мотивацию наших действий, — появляются ошибки. Компьютерные алгоритмы принимают решения точнее, если не рассматривать соображения морали. Есть сферы, где эти ошибки обходятся особенно дорого — например, финансы. Похоже, наш мозг слишком хорош для этого мира. Он избыточен и в силу этого ненадежен. Правда, все это выяснилось тогда, когда мы изобрели машинный мозг. А прежде все всех устраивало.

В исследовании компаний Capgemini и Accenture говорится, что 85% миллениалов готовы отдавать третьей стороне персональные данные ради удобного продукта. Их не пугают картины полной зависимости индивида от общества, нарисованные Оруэллом. «Вот вся информация обо мне — дайте мне дешевый кредит и удобный мобильный банк». Это концепция открытого банкинга (open banking). Изменяется демографическая структура владения капиталом — миллениалам переходят сбережения их родителей, они толерантнее относятся к риску и готовы к использованию технологических решений в области инвестиций.

Мы в QIWI активно развиваем R&D на тему открытого банкинга и робоэдвайзинга. Что если человек сможет «нанять» себе робота, который от его имени будет честно взаимодействовать с финансовыми институтами, анализируя предложения и выбирая лучшие для своего «хозяина»? Каждый раз машина будет учиться: клиентский опыт будет сосредоточен вокруг AI, который автоматизирует большую часть финансовой, а затем и всей прочей жизни.

Мы в QIWI выступаем за то, чтобы роботы создавались не фининститутами, а независимыми разработчиками, и верим, что люди будут доверять такому помощнику, зная, что он примет решение, подобное его собственному, или лучше.

В финтехе я вижу достаточное количество решений на основе AI уже сейчас: даже в советах директоров фондов наравне с людьми заседают роботы.

В банках AI раньше трансформировал бэк-офисные операции, ликвидируя не очень заметные клиенту рабочие места. Сейчас роботы дизраптят фронтовые решения — вплоть до последней клиентской мили. AI также дает новые возможности в битве за клиентскую лояльность и позволяет фининститутам избежать «гонки на дно» в ценовой конкуренции, внедряя новые способы сегментирования клиентов и точного позиционирования своих финансовых продуктов.

Глиняный Голем оживал, когда каббалисты вкладывали ему в рот свитки с приказами. Функции AI заложены в него разработчиками — направление трансформации общества определяет технологическая элита.

Очень важно понимать ценности тех, кто создает эти системы. Общество само должно захотеть открытого диалога с сообществом разработчиков об этических последствиях изобретений. Норберт Винер в свое время отказался консультировать General Electric по моральным соображениям, но так поступали далеко не все.

Решения о применении технологий часто принимаются на основе выгодности и эффективности. Нужна новая система оценки, необходима дискуссия о морали и учете ценностей человека. Будущее не случится само. Я поддерживаю создание площадки со всеми возможными точками зрения, открытый диалог.

В любом случае робота лучше иметь в качестве партнера, чем в качестве врага. Важны также вопросы фидуциарной ответственности создателей AI. Думаю, ответ — в поиске баланса путем диалога, и главная опасность тут — наша собственная интеллектуальная лень.

1,476 просмотров всего, 1 просмотров сегодня