Роджер Пенроуз: интеллект - это не математические вычисления

ruticker 06.03.2025 8:52:40

Текст распознан YouScriptor с канала First Line Investor

распознано с видео на ютубе сервисом YouScriptor.com, читайте дальше по ссылке Роджер Пенроуз: интеллект - это не математические вычисления

**Название неправильное**. Это не искусственный интеллект. Интеллект подразумевает наличие сознания. Исходя из этого, я думаю, что сюжет фильма "Был утерян компьютер" — это очень специфическая математическая структура. Это вычислительная математика, это очень ограниченная область математики. Я не думаю, что они когда-нибудь станут сознательными в нашем понимании этого слова. Но я думаю, что сознание — это не вычислительный процесс. Это всё ещё верно для ИИ. Вы разговариваете с ИИ-системой, но она не понимает, что делает. Компьютеры стали настолько мощными, что они потеряли понимание того, что делают. Я думаю, что суть была утеряна. Я думаю, что Тьюринг был недалёко от истины. Я думаю, что люди потеряли суть несколько раз. Вы упоминали Нобелевскую премию. Мы вернулись из Стокгольма в этом году. Мы брали интервью у лауреата Нобелевской премии. Вам не кажется, что Нобелевская премия этого года — это дань уважения комедии об искусственном интеллекте? Нобелевская премия по физике, отец ИИ. Нобелевская премия по химии, сэр Демис Хаса Бис, соучредитель DeepMind — это система ИИ. Дэвид Бейкер, компьютерное зрение, оцифровка белков. Вам не кажется, что это дань уважения? И я так думаю. Ну, нужно быть осторожным. Во-первых, название неправильное. Это не искусственный интеллект, это не разум. Разум подразумевает наличие сознания. Я всегда был убеждён, что эти устройства не обладают сознанием, и они не станут сознательными, если не будут использовать другие идеи. Это всё вычислительные понятия, но разум — это не сознание. Это зависит от сознания, понимаете? Ну, это зависит от того, как вы используете это слово. Я думаю, что когда люди говорят об интеллекте, они имеют в виду нечто осознанное. Вот что я имею в виду, понимаете? Я разработал свои собственные идеи после того, как прошёл курс. Когда я был аспирантом в Кембридже, я посещал три курса, которые никак не были связаны с моей специализацией. Один был посвящён общей теории относительности, другой курс был по квантовой механике, его вёл выдающийся, очень известный Поль Дирак, а третий курс был по математической логике. Я узнал о машинах Тьюринга и понятии вычислимости, и я понял, что значит вычислимость. Я узнал о теореме Гёделя. Она меня поразила, потому что она говорит о том, что есть вещи, которые невозможно понять. Давайте я объясню подробнее. Гёдель делает очень умную вещь: он формулирует утверждение. Теперь представьте, что вы пытаетесь разработать свои методы доказательства. Что значит доказать теорему в математике? Как вы узнаете, что она действительно верна? Ну, вы её доказываете. Что значит доказать? Ну, понимаете, вы говорите, что у вас есть набор правил, и если вы им следуете, то это доказательство. Но как вы узнаете, что эти правила дают вам только истинные утверждения? Ну, вы внимательно их изучаете и говорите: "Может быть, я сам создаю свои правила". Нет, нет, вы должны быть осторожны. Это то, чему я научился. Это человек по имени Стин. Он логик, и я узнал от него важную вещь о теореме Гёделя. Теорема Гёделя очень умная. Вы делаете утверждение, которое говорит, что его нельзя доказать по этим правилам. Это просто самое умное — это заставить его это сделать. Он говорит, что вы устанавливаете свои правила, которые считаете правилами доказательства, и ведёте их в компьютер. Значит, это вычислимые правила. Но я знал, что есть вещи, которые нельзя вести в компьютер. Из этого курса я узнал, что были и несколько других, Чорч, Тьюринг и другие люди тоже давали свои определения. Все они оказались эквивалентными. Так что есть одно универсальное понятие вычислимости, которое означает, что можно сделать с помощью компьютера. Возможно, это единственная проблема с языком, которая не позволяет развиваться, и, возможно, у нас есть только языковая проблема. И мы не можем описать то, что создали. Нет, я с этим не согласен. Это не проблема языка, понимаете? Вы создаёте свой новый язык. Конечно, вы можете это сделать. Вы создаёте свой новый язык, и это то, что вы можете сделать. Давайте я расскажу о теореме о поясе, как она работает. Понимаете, видите, теорема о поясе утверждает, что вы формулируете утверждение, которое говорит... Вы понимаете, что это значит? Вы видите, что это значит, исходя из того, как вы сформулировали предложение. Это значит, что я не могу быть доказан по этим правилам. И это действительно так. Это действительно так говорится. Тогда, может быть, это утверждение можно доказать по этим правилам. Если оно доказуемо по этим правилам, значит, оно верно. Ну, я неправильно выразился, это неважно. Если это не так, то это значит, что это можно доказать по правилам. А если это можно доказать по правилам, значит, ты понял правило. Ты смотришь на стену и говоришь: "Да, это правильно". Это правильно. Конечно, если ты следуешь этим правилам, это правда. Значит, ты веришь, что правила дают тебе только правду. Значит, это правда, что это нельзя доказать по правилам. Если это не так, значит, это можно доказать по правилам, и значит, это правда. Значит, это правда, и её нельзя доказать по правилам. Я нахожу это удивительным. Но я всё равно не понимаю, почему. И не может создать свои собственные правила, потому что он не знает, что они верны. Понимаешь, в этом и суть теоремы о поясе. Суть теоремы о поясе, насколько я понимаю, в том, как выйти за рамки правил. И ты это делаешь, понимая их. Ты понимаешь, почему они верны. Дело не в том, что ты используешь правила, а в том, что ты понимаешь, почему использование правил даёт тебе только правду. И так ты можешь доказать то, что выходит за рамки правил, зная, почему это правда. Но знать, почему это правда, что это значит? Это значит, что ты понимаешь их. Что значит понимать? Ты должен осознавать их, понимаешь? Формулировка ясна. Это значит, что ты должен знать, что делаешь. Ты должен знать, почему это правда, не просто знать, что это правда. Тебе могут сказать, что это правда, тебе могут рассказать об этом в школе, но это не главное. Ты должен знать, почему это правда. Чтобы понять, почему это правда, нужно их понять. Для того чтобы понять их, нужно быть внимательным к ним. Вот это и требуется, чтобы вы поняли, к чему я клоню. Осознанность позволяет вам выходить за рамки правил. Теперь вы понимаете, почему они верны, и это выводит вас за их пределы. Вот видите, что делает теорема Гёделя. Она подсказывает вам, как использовать ваше понимание того, почему правила верны, чтобы превзойти их. Вы думаете, что искусственный интеллект — это простой инструмент или простая вещь, которую мы можем использовать в единичном случае? Нет, я не говорю, что это одноместный номер. Очевидно, что он бесконечен. Нет, совершенно очевидно, что дело не в этом. Дело в том, что он не знает, что делает. То же самое относится и к искусственному интеллекту. Когда ты разговариваешь с искусственным интеллектом, он не знает, что делает. Если хочешь, он говорит, основываясь на собственном опыте. Видишь ли, люди путают историю. История в том, что они потеряли её из-за возможностей вычислительной техники. Дело в том, что компьютеры стали настолько мощными, что они потеряли то, что они делают. Они занимаются вычислениями. Ты сожалеешь об этом, потому что это так мощно. Ну что ж, это теряет смысл. Видишь ли, я думаю, что смысл потерян. Я думаю, что Тьюринг был не так уж далёк от истины. Видишь ли, в некотором смысле он был немного сбитым с толку человеком, потому что было неясно, во что он верил. Но он действительно назвал эту штуку тестом Тьюринга. Как можно про обладать ли сущность сознанием или нет? Не хочешь ли ты поговорить с ней? Поговори с ней сам. Возможно, искусственный интеллект — это новая сфера человеческого существования. Нет, в нём чего-то не хватает. Я думаю, да, в этом-то и проблема. Вот и всё. Я имею в виду, что очевидно, это играет определённую роль. Я не собираюсь этого говорить. Совершенно очевидно, что это играет определённую роль. У искусственного интеллекта есть своя роль, но не стоит заблуждаться. То, что он играет свою роль, связано с вычислительной мощью. Конечно, сейчас компьютеры настолько мощные, что они могут делать то, что людям и не снилось. Можно взять огромный массив данных, проанализировать их и понять, что они говорят, и сделать что-то в соответствии с предыдущими данными или нет. И это всё, что делает искусственный интеллект. Он не понимает, что делает. Понимание отличается от вычислений. Внутри чёрного ящика есть только статистика, простая статистическая машина. Ну, если это машина, то она не осознаёт. Нет, я думаю, что люди запутались. Если бы я написал свою книгу "Новый разум императора", то это было бы понятно. Но что это значит для людей, которые запутались? Да, я думаю, что они запутались, потому что смысл моей книги в том, что мы должны найти что-то в физике. Видите ли, я верю, что всё, что происходит в наших головах, что создаёт сознание, является частью физического мира. Я не верю, что это магия, которая приходит неизвестно откуда. Чёрный ящик — это тоже часть физических законов. Но что вы имеете в виду под чёрным ящиком? Мы знаем, что на входе, знаем, что на выходе, но понятия не имеем, что внутри. Это и есть чёрный ящик. Да, но это не помогает, потому что мы не знаем, что внутри. Какая физика там внутри? Может быть, новая физика. Да, но новая физика определённого рода. Вот что я утверждаю в своём аргументе, понимаете? Это тот самый случай, когда, как мне кажется, происходит потеря. Я утверждаю, что физика, лежащая в основе сознательного мышления, должна быть неподдающейся вычислению. Сейчас мы знаем физику, но здесь есть небольшая загвоздка, потому что это не совсем понятно. Но, насколько мы можем судить, известная нам физика поддаётся вычислению. Понимаете, это одна из наших теорий относительности, где у нас есть замечательные машины, которые вычисляют, что происходит с чёрными дырами, когда они вращаются друг вокруг друга и создают гравитационные волны. И можно сказать: "Да, это столкновение чёрных дыр", потому что у него есть очень чёткие признаки. Да, мы можем всё это вычислить, это нормально. Но я говорю не об этом. Я говорю о том, что физика должна быть такой, чтобы её нельзя было вычислить. Так что можно сколько угодно анализировать это, но он не сможет это понять. Вы говорите о чёрном ящике, но вы не знаете, что в нём. Это компьютер. Это компьютер, который мы сейчас понимаем. Это что-то, что связано с физикой, которая включает в себя неподдающийся вычислению процесс. Пока нет, я не говорю, что этого не произойдёт. Я этого боюсь, потому что не хочу, чтобы это произошло. Я ничего не могу с этим поделать, потому что подозреваю, что однажды это случится. Но это не в том виде, в каком мы его сейчас знаем. И каким мы его сейчас знаем, управляется компьютером. Значит, сверхчеловеческого ИИ никогда не будет. Проблема в том, что ИИ — это неудачный термин. Он означает искусственный интеллект, но на мой взгляд, интеллект — это осознанность. В этом суть интеллекта. Ладно, как это назвать? Искусственный интеллект? Как тебе такое? Ты можешь заметить разницу, когда занимаешься математикой. У тебя есть студенты математики. Некоторые из них делают, а некоторые просто умны. Они могут повторить то, что выучили. Они умеют очень хорошо считать, но не обязательно понимают, что делают. Физика, которую мы не знаем, не поддаётся вычислениям. Это моё утверждение. Я выдвинул его в "Новом разуме императора", а в "Тенях разума" я развил его. Я имею в виду, что возможно, это не сознание. Возможно, это что-то совершенно новое. Возможно, это не осознанность, но могут быть совершенно неизвестные вещи, о которых мы сейчас не имеем представления. Это может быть правдой. Я говорю о вещах, понимаешь? Если ты говоришь об ИИ, это означает, что, к сожалению, это неудачный термин, потому что он означает искусственный интеллект. И когда люди используют этот термин, они имеют в виду то, что могут делать компьютеры. Вот что они имеют в виду. У них есть компьютеры, и они очень мощные. И когда они говорят об ИИ, они используют компьютеры. Обычно это не прямое логическое использование. Я не изучал эти вещи, так что, возможно, я уже отстал от времени. Но, насколько я понимаю, это значит, что вы просматриваете большие объёмы данных, а затем ищете закономерности или пытаетесь проанализировать таким образом. Но это всё вычисления. Вы используете компьютеры. Но это по своей природе вычислительно. Слово "вычислительный" означает, что это делается с помощью компьютера. Компьютер — это очень специфическая математическая структура. Если вы изучаете математику как абстрактную науку, то быстро понимаете, что есть вещи, которые невозможно вычислить. Это очень ограниченная часть математики. Некоторые математические задачи не поддаются вычислению, их нельзя решить с помощью алгоритма. Но видите ли, люди часто думают, что искусственный интеллект не использует алгоритмы, потому что он использует какие-то случайные методы или что-то в этом роде. Я не знаю, я не изучал подробно, что такое искусственный интеллект. То, что называется искусственным интеллектом, на самом деле происходит, когда вы запускаете его на компьютере. Но это делается с помощью компьютера. Так что это всё ещё вычислительный процесс. В этом нет сомнений. Я утверждаю, что вам нужно что-то, что не поддаётся вычислению. Понимаете, люди склонны не верить в это, потому что они думают только о компьютерах и не знают, что есть вещи, которые невозможно вычислить. Если вы изучаете математику и математическую логику, вы понимаете, что есть структуры, которые невозможно вычислить. Логика и физика мира могут быть... могут использоваться дальше, дальше, дальше. Возможно, осьминоги. Я уверен, я не знаю, обладает ли бактерия сознанием. Я не знаю, обладает ли лягушка сознанием. Возможно, да, обладает ли амёба сознанием. Я не знаю, я просто предполагаю. У меня нет реальных оснований для таких выводов. Но я считаю, что сознание — это нечто иное. Это не вычислительный процесс. Дело в том, что люди просто слишком загипнотизированы. Я не использую такие грубые слова. Просто компьютеры стали настолько мощными, что... Да, ответ. Есть компьютеры, настолько мощные, что мы нашли ответ. Это просто компьютеры. Я говорю, что нет. Дело не в этом. Ответ гораздо глубже, чем кажется. Это не сложнее, чем кажется. Это глубже, чем кажется. Это связано с физикой, которую мы, возможно, ещё не знаем. Это глубже, потому что основано на квантовом мире. Это за пределами квантового мира. Понимаете, квантовый мир всё ещё поддаётся вычислениям, а то, что не поддаётся вычислениям, как мы знаем, нам неизвестно. В квантовом мире есть нечто фундаментально неизведанное. Квантовая теория в корне не полна. Я бы даже сказал, ошибочно в определённом смысле, потому что она считает, что квантовые суперпозиции сохраняются на всех уровнях. Возможно, когда мы создадим вселенную или квантовый компьютер, мы сможем создать синтетическое сознание. Возможно, да. Нет, я ничего не имею против этого. Мне это не нравится теоретически. Я ничего не имею против. Вы согласны с этим? Комитет по присуждению Нобелевской премии, если посмотреть на Нобелевскую премию по физике для отцов... Я не изучал подробности, я не знаю, что там написано. За фундаментальные работы по синтетическим нейронным сетям для Джеффри Хинтона — это физика? Я бы усомнился, что это действительно физика. Я не уверен. Понимаете, иногда можно усомниться в некоторых решениях Нобелевского комитета. Я бы усомнился в некоторых из них, возможно, и в этом. Я не уверен, я не изучал. Я не изучал это внимательно. Зависит от того, что именно там написано. Это технологический прогресс, я бы сказал. Возможно, это использование. Я имею в виду, это просто теоретическое достижение или нет? Я не думаю, что это так, но, наверное, но комитет не присуждает премию за чисто теоретические работы. Да, нужно иметь практическое применение. Вот здесь я не совсем уверен. Возможно, это связано с сознанием. Это один из способов развития. И когда мы используем что-то вроде цифровой переписи, собирая данные о происходящем вокруг, я не думаю, что они обладают сознанием в каком-либо смысле. Я бы хотел посмотреть формулировку Нобелевской премии, чтобы понять, доволен я ею или нет. Я не знаю. Мой вопрос касается беспилотных автомобилей. Мы обрабатываем тысячи, сотни данных. Возможно, у них есть сознание. Возможно, это один из способов развития. И когда мы используем что-то вроде цифровой переписи, собирая данные о происходящем вокруг, я не думаю, что они обладают сознанием в каком-либо смысле. Но они могут водить лучше, чем люди. Это возможно, я не знаю, с чем сейчас можно сравнивать. Они, конечно, время от времени попадают в глупые аварии. Но люди тоже. Так что, возможно, они станут более надёжными, чем люди. И это не так уж далеко от истины. Насколько я знаю, у меня нет претензий к этому. Я не думаю, что это показатель того, что у них есть сознание. В конце концов, у нас есть устройства, которые уже выключают свет в определённое время. Возможно, они лучше знают, когда нужно включать свет, когда темнеет и так далее, или как экономить электроэнергию и тому подобное. Как вы смотрите на развитие ИИ и что вы думаете о будущем? Видите ли, я не очень хорошо разбираюсь в ИИ, понимаете? Так что вы задаёте мне вопрос, выходящий за рамки моей компетенции. Я бы сказал, что область моей компетенции связана с тем, действительно ли эти устройства делают то, что делаем мы. Я не думаю, что они это делают, потому что они не разумны. Я не думаю, что они когда-нибудь станут разумными в нашем понимании этого слова. Я не знаю, является ли это ответом на ваш вопрос, но это не значит, что они не будут лучше нас. Самый большой риск, связанный с развитием ИИ, заключается в том, что люди могут подумать, что они действительно разумны. Они разумны, да. Но если бы они были разумны в полной мере, это было бы ещё опаснее. Понимаете, можно было бы понять, что такое сознание и создать какое-нибудь устройство. Я не называю это компьютером, потому что, на мой взгляд, это не компьютер. Это было бы что-то другое, какое-то сознательное устройство. А поскольку я считаю, что сознание — это физический процесс, я не думаю, что мы его понимаем. Я думаю, что это связано с коллапсом волновой функции. Это отчасти негативный вывод. Я не вижу другого объяснения, но коллапс волновой функции очень загадочен и связан с определёнными ретро-причинными явлениями, которые немного сбивают с толку. Я думаю, что время работает не так, как мы привыкли думать. Но есть определённые вещи, которые противоречат, можно сказать, обычной причинно-следственной связи. Дело не столько в том, что они противоречат, сколько в том, что у нас разные представления о реальности. И есть два понятия, которые я пытаюсь разделить: одно — классическая реальность, а другое — квантовая реальность. Классическая реальность — это то, о чём мы обычно говорим. Мы можем её потрогать, понять с помощью других органов чувств. Но главное отличие в том, что вы можете спросить систему. Например, если я возьму этот стакан, я могу спросить стакан: "Привет, стакан, какой ты формы?" Я не делаю так, но я спрашиваю, какой формы этот стакан, и я говорю: "У него круглая верхушка, он более-менее цилиндрический". Это классическая форма, это классическая реальность. А квантовая реальность больше похожа на... У Эйнштейна был хороший критерий, но он не называл это квантовой реальностью. Я называю это квантовой реальностью. Как узнать, что волновая функция реальна? Волновая функция частицы реальна или нет? Хороший пример — спин частицы с полулёжа. Правильнее будет сказать, частица, твой спин направлен в эту сторону, понимаете? У спина есть ось. У частицы с полулёгким подтвердить форму этого стакана — это классическая реальность. Я могу только подтвердить квантовую реальность. Я могу это сделать, если думаю, что знаю, в каком направлении он вращается. Я сказал: "Да, я всё рассчитал". Ты это сделал? Да, сейчас он, наверное, вращается. Именно так. Я говорю: "Привет, штат". Я думаю, он вращается именно так. Я правильно понял? И если я правильно понял, то ответ — да, с уверенностью. Это критерий Эйнштейна. Если ты можешь подтвердить это с уверенностью, то это уже элемент реальности. Он называет это элементом реальности. Я называю это элементом квантовой реальности. Классическая реальность — это другое. Классическую реальность можно подтвердить, а квантовую реальность можно только подтвердить. И нужны эти две идеи, и их нужно разделять. Квантовая реальность ведёт себя очень странно. Она действует ретро-причинно. Но ты можешь подумать, хотя эти эксперименты с... Я думаю, ты говоришь о Нобелевской премии, которую получили люди из Ксенона за эти, кажется, эксперименты с ЭПР-эффектом. Я не совсем помню, за что они её получили, но что-то в этом роде. У вас есть эти эффекты, которые, кажется, влияют на мгновенное... Понимаешь? У Алисы и Боба есть спин, и изначально у них нулевой спин. Но их спины противоположны. То есть у Алисы спин такой, а у Боба такой. Теперь предположим, что Алиса измеряет свой спин и обнаруживает, что он такой. Ретро-причинно, как конус прошлого. Это не просто одновременность, это хуже. Это в прошлом, но не быстрее, чем свет мог бы пройти от одного к другому. Это странный способ, но ретро-причинно он становится противоположным измерению Алисы. Не может это подтвердить, поэтому она не может послать сигнал быстрее света, потому что она может только подтвердить это. Она не знает, как это работает. Так что вам нужно понять суть этих экспериментов типа Эйнштейна, Подольского, Розина, чтобы разобраться. Я бы проверил, за что была присуждена Нобелевская премия в том году, но думаю, это связано с этим. Это очень важное и интересное открытие. Но чтобы понять, что происходит, я думаю, лучше всего использовать квантовую реальность. Конечно, с помощью этого нельзя отправить сигнал быстрее скорости света, но можно отправить ретрокары скорости света в прошлое или почти так же быстро, как свет, в прошлое. Если это только квантовая реальность, пока мы не понимаем, как работает квантовый мир, мы не можем его заменить. Я думаю, что всё не так плохо, понимаете? Это не значит, что мы пытаемся понять это с классической точки зрения. Мы можем понять математику и привыкнуть к этому. Хорошо, и это подразумевает понимание. Если кто-то задаёт мне вопрос, я могу не очень хорошо его понять, но я постараюсь сделать всё возможное и, возможно, пойму квантовую механику достаточно хорошо, чтобы ответить. Это и есть понимание. Конечно, это происходит. Была такая знаменитая комета. Да, никто не понимает квантовую механику. Да, я знаю, это был Бор. Бор, кажется, да, кажется, это был Бор. Но понимаете, это вводит в заблуждение. Понимаете, для понимания не обязательно иметь классическое представление. Мы вынуждены понимать классический мир. Квантовый мир не детерминирован, и он немного понятен нашему разуму. Чтобы понять квантовый мир, нужно использовать формулы. Я думаю, что слово "понимание" в классическом смысле здесь неуместно. Можно сказать, что я не знаю, какое слово здесь использовать, но в классическом смысле это не работает. Да, это не работает, но это не значит, что мы ничего не понимаем. Вы видите картину и понимаете, что знаете, как предсказывать результаты в квантовой механике, и это могут быть вполне конкретные предсказания. Некоторые из них не просто вероятности. Я думаю, что это связано с идеей, что вы знаете только вероятности или что-то в этом роде. Я думаю, это вводит в заблуждение. Эти вещи сбивают с толку не только потому, что они вероятностные. Иногда они просто вероятностные. Но именно это делает их последовательными, потому что вероятностные. Но вещи, которые меня больше всего восхищают в квантовой механике, не являются вероятностными. Например, эффект... Конечно, это вероятностное. Вы просите кого-то провести измерение, и это только квантовая реальность. Я имею в виду, что он пытается провести классическое измерение реальности, он получит только вероятностный ответ. Я просто думаю, что нужно отделить квантовую реальность от классической и понять, что квантовая реальность ведёт себя иначе. Да, но это не значит, что её нельзя понять. Я не знаю, так ли это. Люди часто используют слово "понимание" в этом смысле. Я думаю, это немного вводит в заблуждение. Большое вам спасибо за уделённое время. Хорошо, мне было приятно с вами пообщаться. Спасибо.

Назад

Залогинтесь, что бы оставить свой комментарий