«Тема искусственного интеллекта, в частности его безопасности, снова в топе медиаповестки»
Искусственный интеллект позволит каждому человеку стать обладателем сверхспособностей
Тема искусственного интеллекта, в частности его безопасности, снова в топе медиаповестки. Поводом на этот раз стал конфликт основателей американской IT-компании OpenAI Сэма Альтмана и Ильи Суцкевера. Как сообщает The Wall Street Journal, Суцкевер (кстати, он родом из Нижнего Новгорода) направил Альтману приглашение присоединиться к видеочату, во время которого в присутствии других членов совета сообщил ему об увольнении.
Небольшая справка. OpenAI считается самым перспективным стартапом — по грубой прикидке, его капитализация оценивается в $90 миллиардов. Целью компании, основанной в 2015 году, поначалу была разработка цифрового разума, способного в самых разнообразных видах деятельности работать наравне с человеком. Или лучше. Довольно быстро ребята разобрались, что это либо в принципе невозможно, либо требует бесконечного количества мощностей. Для того чтобы отбить деньги, они стали создавать более конкретные вещи, в частности боты GPT. По оценкам Goldman Sacks, их продажа может дать порядка $430 миллиардов.
Суть конфликта Альтмана и Суцкевера профессионалы расценивают как раскол между двумя направлениями в Силиконовой долине — «бумерами» (они не слишком верят в апокалипсис из-за ИИ) и «думерами» (эти верят, что он нас поглотит и нам хана). Поэтому одни считают, что надо как можно быстрее развивать цифровой мозг, а другие — что он может погубить цивилизацию и его надо притормаживать.
Собственно, нашего земляка, Суцкевера, относят к «думерам». Он говорил, что компания увольняет Альтмана из-за того, что его компаньон «не всегда был откровенен с советом директоров» и скрывает нечто опасное. Кстати, наиболее известное выступление Альтмана было на слушаниях в конгрессе США, посвященных безопасности ИИ. Суть сводилась к тому, что расширенное и ускоренное развитие направления сделает практического каждого человека обладателем сверхспособностей и скорость прогресса резко возрастет. При этом Альтман не против ограничений, которые не сковывают развитие ИИ.
На данный момент из ограничений в Штатах есть только указ Джо Байдена о том, что всякий искусственный мозг, превышающий определенную мощность, должен контролироваться государством и компания, владеющая им, должна поставить правительство в известность, предоставив результаты тестирования на безопасность.
Почему я снова затрагиваю эту тему? Отчасти потому, что пишу фрагмент научной статьи, посвященной проблеме искусственного интеллекта. Мои коллеги для этой работы провели серьезный опрос наших граждан. Оказалось, значимое количество людей в России угрозу потери рабочих мест из-за ИИ считают вполне серьезной.
Влияние цифрового интеллекта на прогресс сильно переоценено
Критики ограничений говорят, что крупные предприятия сами хотят снять сливки, заработав эти $430 млрд и преградив дорогу остальным. Их противники считают, что запреты должны быть гораздо жестче. При этом Goldman Sucks приводит результаты исследований, согласно которым быстрое развитие и внедрение ИИ даст порядка 7% роста ВВП и около $7 трлн роста мирового ВВП в течение 10 лет. Некоторые сторонники цифрового интеллекта, например заслуженный профессор в области информационных технологий и управлений в Babson College Томас Дэвенпорт, говорят о 30%.
«На прошедшей неделе тоже было много «шума-треска» и обсуждений искусственного интеллекта»
Вообще, на прошедшей неделе тоже было много «шума-треска» и обсуждений искусственного интеллекта. В том же The Economist перспективы ИИ оцениваются довольно скромно. Критикуются мифические истории, завышенные ожидания, что, мол, не то что 30% дополнительного роста мирового ВВП не случится, но и о 7% мечтать не стоит. Вспоминается, что уже были большие надежды, связанные со строительством железных дорог в США, и такого резкого скачка прогресса, как ожидалось, не случилось. И тот факт, что почти каждый житель планеты сегодня носит в кармане то, что в 1970–1980-е годы считалось бы суперкомпьютером, не влияет ни на личные достижения людей, ни на прогресс в целом.
Важный аргумент для меня, приведенный в той же статье The Economist: по результатам сравнения роста акций на рынке с 2021 по 2023 год «обычных» компаний и компаний, специализирующихся на развитии ИИ, показатели вторых оказались существенно хуже. Со времен прочтения сказки про белого бычка (история о том, как народ на ярмарке оценивал вес животного и их средний результат оказался точнее, чем оценка мясника и скотовода) я придерживаюсь гипотезы о несмещенности рыночных оценок. Так что здесь я согласен с рынком: он дает несмещенные оценки. Вес влияния цифрового интеллекта на прогресс сильно переоценен. Думаю, ни одного процента, ни полпроцента ИИ к мировому ВВП не прибавит.
Кстати, на встрече председателя КНР Си Цзиньпина и Владимира Путина также обсуждалась проблема безопасности искусственного интеллекта. И, судя по публикациям в американской прессе, договорились не передоверять цифровому разуму ядерное оружие.
«Учитывая, что контакты людей так и так отслеживаются, можно было сохранить порядка 10 миллионов человек. Но ничего подобного не произошло и произойти не могло»
Вспомним о ковиде
Из интересных аргументов, которые могут быть в этом споре учтены, можно вспомнить высказывание президента национального исследовательского центра «Курчатовский институт» Михаила Ковальчука, который говорил, что совокупность элементов всех компьютеров, которая сегодня есть в мире, примерно доросла по количеству элементов до одного человеческого мозга. Притом что эти компьютеры поглощают энергии в миллион раз больше. Представить себе, что компьютерная сверхцивилизация, управляемая ИИ, вдруг заменит человечество, было бы противоестественно c точки зрения КПД системы на данном этапе. В этом плане можно почти наверняка предполагать, что ничего подобного в обозримой исторической перспективе случиться не может.
Собственно, еще раз напомню об истории с ковидом, о чем я писал уже множество раз. Я сам рассчитывал варианты построения оптимальных карантинов и совершенно точно знаю, что объемы данных, которыми располагал даже нынешний ИИ, на современном уровне развития при правильной постановке задач, без сомнения, позволяли спасти множество жизней.
Учитывая, что контакты людей так и так отслеживаются, можно было сохранить порядка 10 млн человек. Но ничего подобного не произошло и произойти не могло. В этом смысле вопрос безопасности и перспектив влияния ИИ на прогресс не в том, с какой скоростью эта история будет развиваться, а в том, как правильно ставить искусственному интеллекту задачи, задавать вопросы и принимать на основе полученной информации управленческие решения. Пока больших успехов в этом плане ни в одной стране не наблюдается. Хотя сосредоточиться стоит именно на этом.
Если же вернуться к нашумевшей истории с увольнением Альтмана и к тому, что его вернули на должность руководителя, это может означать, что идея форсированного развития возобладала над идеей притормаживания искусственного интеллекта.
источник: БИЗНЕС Online
