Скачать "Демис Хассабис: Будущее ИИ, симуляция реальности, физика, игры | Лекс Фридман Подкаст #475"

Перейти к скачиванию

|

Похожие ролики из нашего каталога

21:09

Never-before-seen footage of uncontacted tribe warriors | Paul Rosolie and Lex Fridman

Канал: Lex Clips

7:06

How to learn Python programming | Guido van Rossum and Lex Fridman

3:07:27

Энни Джейкобсен: ядерная война, ЦРУ, КГБ, пришельцы, Зона 51, Розуэлл | Лекс Фридман Подкаст #420

Канал: Lex Fridman

12:25

Elon Musk: Self-driving is way harder than I thought | Lex Fridman Podcast Clips

5:29

Humans will all die in 100 years | Yuval Noah Harari and Lex Fridman

11:44

The benefits of sauna | Andrew Huberman and Lex Fridman

3:24:36

Джеймс Холланд: Вторая мировая война, Гитлер, Черчилль, Сталин | Лекс Фридман Подкаст #470

1:27:57

Roger Penrose: Physics of Consciousness and the Infinite Universe | Lex Fridman Podcast #85

Канал: Lex Fridman

21:06

How CIA spies disguise their identity | Andrew Bustamante and Lex Fridman

21:48

Former AIPAC Member EXPOSES Zionism Myths

Канал: India & Global Left

|

Теги видео

Выделить всеКопировать

Demis Hassabis

alex friedman

lex ai

lex debate

lex freedman

lex fridman

lex friedman

lex interview

lex lecture

lex mit

lex podcast

lex transcript

|

Субтитры

• Английский

Скачать

00:00:00

Лекс: Людям трудно делать точные прогнозы

00:00:02

относительно нелинейных динамических систем.

00:00:05

Но, возвращаясь к твоей мысли, нас может сильно удивить, на что

00:00:08

способны классические системы, даже когда речь идет о жидкостях.

00:00:12

Демис: Да, именно.

00:00:13

Гидродинамика, уравнения Навье-Стокса - их традиционно считают очень

00:00:16

сложными, практически неразрешимыми задачами для классических систем.

00:00:20

Они требуют колоссальных вычислительных

00:00:22

ресурсов, системы прогнозирования погоды.

00:00:24

Все это подразумевает расчеты по гидродинамике.

00:00:27

Но опять же, если посмотреть на ту же Veo, нашу

00:00:30

модель генерации видео, она довольно хорошо…

00:00:32

даже удивительно хорошо моделирует

00:00:34

жидкости, материалы и зеркальное освещение.

00:00:37

Мне особенно нравятся видео, в которых прозрачные жидкости

00:00:41

проходят через гидравлический пресс и выдавливаются оттуда.

00:00:45

Когда-то я сам писал физические и графические движки для игр и знаю,

00:00:50

насколько мучительно сложно создавать программы, способные на такое.

00:00:54

А эти системы каким-то образом воспроизводят поведение

00:00:58

материалов, просто анализируя видео с YouTube.

00:01:00

Предположительно, они извлекают какую-то внутреннюю

00:01:04

структуру, описывающую поведение этих материалов.

00:01:08

Возможно, существует некое низкоразмерное

00:01:11

многообразие, которое можно

00:01:12

выучить, если бы мы действительно понимали,

00:01:15

что происходит «под капотом».

00:01:16

Может быть, это вообще справедливо

00:01:18

для большей части реальности.

00:01:22

Лекс: Это разговор с Демисом Хассабисом,

00:01:25

во второй раз на этом подкасте.

00:01:28

Он - руководитель Google DeepMind и

00:01:30

теперь - лауреат Нобелевской премии.

00:01:34

Демис - один из самых блестящих

00:01:36

и выдающихся умов современности.

00:01:39

Он занимается исследованием и созданием интеллекта

00:01:44

и изучает великие загадки нашей вселенной.

00:01:48

Для меня это была большая честь.

00:01:51

Это подкаст Лекса Фридмана.

00:01:53

Чтобы поддержать его, пожалуйста, ознакомьтесь с нашими

00:01:57

спонсорами в описании и подпишитесь на этот канал.

00:02:01

А теперь, дорогие друзья, Демис Хассабис.

00:02:06

В своей Нобелевской речи ты предлагаешь,

00:02:09

как мне кажется, очень интересную гипотезу:

00:02:12

"любой паттерн, который может быть сгенерирован или

00:02:15

найден в природе, можно

00:02:16

эффективно обнаружить и смоделировать за

00:02:18

счет классического алгоритма обучения".

00:02:21

Какие виды паттернов или систем под это подходят?

00:02:26

Биология, химия, физика,

00:02:28

возможно, космология, нейронаука?

00:02:31

О чем речь?

00:02:32

Демис: Конечно.

00:02:33

Смотри, мне показалось, что это своего рода традиция - делать Нобелевскую

00:02:37

речь довольно провокационной, и я хотел следовать этой традиции.

00:02:40

Я это к чему - если оглянуться на всю ту работу, которую мы проделали,

00:02:45

особенно с проектами Alpha X - то, есть AlphaGo и, конечно, AlphaFold,

00:02:50

они на самом деле представляют собой следующее: мы строим

00:02:53

модели комбинаторно сложных, многомерных пространств.

00:02:56

Если попытаться найти решение грубой силой,

00:02:59

найти лучший ход в го или точную форму белка,

00:03:02

на перечисление всех возможных вариантов не

00:03:05

хватит и всего времени существования вселенной.

00:03:08

Поэтому нужно идти другим путем.

00:03:10

В обоих случаях мы построили модели сред, которые определяли

00:03:15

направление поиска, и это делает задачу разрешимой.

00:03:20

Возьмем фолдинг белков, очевидно - это

00:03:22

природная система, но как это возможно?

00:03:25

Как это делает физика?

00:03:26

Белки в наших телах сворачиваются за миллисекунды, то есть каким-то образом

00:03:30

физика эту задачу решает, и мы теперь тоже её решили с помощью вычислений.

00:03:34

Всё из-за того, что в природе естественные системы имеют структуру,

00:03:39

поскольку они подвергались эволюционным процессам,

00:03:43

которые их формировали.

00:03:44

Получается, возможно изучить,

00:03:46

что представляет собой эта структура.

00:03:49

Лекс: Это довольно интересный взгляд на вещи.

00:03:52

Ты намекал, что грубо говоря, все, что может “быть

00:03:56

эволюционировано”, может быть эффективно смоделировано.

00:04:01

Я правильно понимаю?

00:04:03

Демис: Да.

00:04:04

Иногда я называю это

00:04:05

“выживанием наиболее стабильных”.

00:04:08

Конечно, существует эволюция жизни, живых существ, но если подумать

00:04:14

о той же геологии - форма гор сформирована тысячами

00:04:19

лет выветривания.

00:04:20

Или даже взять космологию -

00:04:23

орбиты планет, формы астероидов.

00:04:25

Все они пережили своего рода процессы, которые

00:04:28

множество раз оказывали на них влияние.

00:04:31

Если это так, то должен быть какой-то паттерн, который можно как бы обратно

00:04:37

изучить, и своего рода коллектор, который помогает искать

00:04:41

правильное решение,

00:04:43

правильную форму и фактически позволяет делать эффективные

00:04:46

предсказания, потому что этот паттерн - он не случайный.

00:04:49

А вот с созданными человеком или абстрактными вещами,

00:04:52

таких как факторизация больших чисел, так не работает.

00:04:55

Потому что если в числовом пространстве нет паттернов

00:04:58

и оно однородно, то

00:04:59

изучать там нечего, не существует модели,

00:05:01

которая поможет вам выполнить поиск.

00:05:03

Поэтому приходится брутфорсить.

00:05:06

В таком случае нужен,

00:05:07

например, квантовый компьютер.

00:05:08

Но большинство вещей в природе,

00:05:10

которые нас интересуют, не такие.

00:05:12

У них есть структура, она не просто

00:05:14

эволюционировала и сохранилась именно в таком виде.

00:05:17

И если это так, нейросеть

00:05:19

потенциально может её изучить.

00:05:21

Лекс: Будто природа проводит процесс поиска.

00:05:24

Поразительно, что попутно она создает системы,

00:05:28

которые можно эффективно смоделировать.

00:05:31

- Демис: Верно. Да. - Лекс: Интересно.

00:05:33

Демис: Их можно заново открыть или

00:05:36

восстановить, потому что природа не случайна.

00:05:39

Всё, что мы видим вокруг нас, включая более стабильные элементы,

00:05:43

всё это подвержено какому-то селективному процессу, давлению.

00:05:47

Лекс: Ты ведь поклонник теоретической

00:05:49

информатики и теории сложности.

00:05:51

Как думаешь, можно ли придумать новый класс

00:05:54

сложности, что-то вроде зоопарка классов сложности,

00:05:57

где была бы, скажем, совокупность изучаемых

00:06:01

систем, изучаемых природных систем - ИПС?

00:06:05

Такой новый класс от Демиса Хассабиса: системы, которые можно изучить

00:06:10

классическими методами, природные процессы,

00:06:14

которые можно эффективно моделировать.

00:06:16

Демис: Да, меня очень интересует равенство классов P и

00:06:20

NP и то, что можно смоделировать классическими системами,

00:06:25

то есть неквантовыми

00:06:26

системами - машинами Тьюринга.

00:06:28

Собственно, этим я сейчас и занимаюсь в редкие свободные

00:06:32

минуты с несколькими

00:06:33

коллегами - обсуждаем, может ли существовать новый

00:06:36

класс или тип задач,

00:06:37

которые решаются с помощью нейросетевых процессов и как

00:06:41

бы отображаются на

00:06:42

природные системы, на то, что существует в физике и

00:06:46

обладает структурой.

00:06:48

Это может быть интересный подход

00:06:50

к осмыслению подобных вещей.

00:06:52

И он хорошо ложится на мой взгляд на физику

00:06:54

в целом: я считаю, что информация - первична.

00:06:57

Это самая фундаментальная единица во Вселенной,

00:06:59

даже более фундаментальная, чем энергия и материя.

00:07:02

Мне кажется, всё это можно преобразовывать друг в друга, но

00:07:04

я воспринимаю Вселенную как некую информационную систему.

00:07:07

Лекс: Поэтому, если думать о вселенной как об информационной

00:07:10

системе, то равенство классов P и NP становится вопросом физики.

00:07:14

Демис: Верно.

00:07:15

Лекс: И это вопрос, который может помочь

00:07:17

нам разобраться что тут вообще происходит.

00:07:20

Демис: Да, я думаю, если физика - информационна, это - один из

00:07:25

самых фундаментальных вопросов, и ответ на многое прольет свет.

00:07:29

Лекс: Что касается равенства P и NP.

00:07:33

Опять же, то, что мы обсуждаем, сейчас звучит безумно, точно так же, как

00:07:37

некогда безумно звучало заявление Кристиана Анфинсена

00:07:40

на Нобелевской премии,

00:07:42

но в итоге ты с Джоном Джампером решил эту

00:07:44

задачу и получил за это Нобелевскую премию.

00:07:47

Позволь мне придерживаться того, что P равно NP.

00:07:49

Как думаешь, есть ли в том, о чём мы сейчас

00:07:52

говорим, что-то, что можно было бы формализовать -

00:07:55

например, если удастся заранее, за полиномиальное или даже

00:08:00

постоянное время, провести вычисления и построить огромную модель,

00:08:05

то с её помощью можно решать какие-то чрезвычайно

00:08:08

сложные задачи, уже в духе теоретической информатики?

00:08:12

Демис: Да, я думаю, что есть огромный класс проблем, которые могут быть

00:08:16

сформулированы таким образом, как мы сделали с AlphaGo и с AlphaFold.

00:08:21

Вы моделируете динамику системы, свойства

00:08:24

этой системы, среду, которую вы пытаетесь

00:08:28

понять, и это позволяет эффективно искать

00:08:31

решение или предсказывать следующий шаг.

00:08:35

По сути - полиномиальное время, то есть разрешимое

00:08:38

классической системой, которой является нейросеть.

00:08:42

Она работает на обычных, классических

00:08:44

компьютерах, это просто машины Тьюринга.

00:08:47

Я думаю, один из самых интересных вопросов

00:08:50

- как далеко может зайти эта парадигма?

00:08:52

Мы, и сообщество ИИ в целом, доказали, что классические системы,

00:08:56

машины Тьюринга, могут зайти гораздо дальше, чем мы раньше думали.

00:09:00

Они могут моделировать структуру белков и

00:09:04

играть в го на уровне мировых чемпионов.

00:09:07

Еще 10-20 лет назад люди думали, что на это потребуются

00:09:11

десятилетия, а может

00:09:13

и квантовые компьютеры - только они бы смогли решить задачу фолдинга белков.

00:09:19

Мы еще очень мало знаем о том, на что

00:09:23

способны так называемые классические системы.

00:09:29

И, конечно, сильный ИИ построенный на нейросетях, поверх

00:09:33

классического компьютера, стал бы лучшим проявлением.

00:09:38

Пределы, границы такой системы, и того, на что она способна - это

00:09:42

очень интересный вопрос, который напрямую связан с равенством P и NP.

00:09:47

Лекс: Что, по твоему, может быть

00:09:50

неподвластно классическим машинам?

00:09:53

Возможно, эмерджентные явления?

00:09:55

Или клеточные автоматы, то есть чрезвычайно простые

00:09:58

системы, в которых возникает некоторая сложность?

00:10:00

Или, по-твоему, даже это поддается эффективному

00:10:06

моделированию классической машиной?

00:10:09

Демис: Да, это как раз пограничные системы.

00:10:12

Я думаю, большинство эмерджентных систем, клеточные автоматы

00:10:16

и тому подобное можно смоделировать классической системой.

00:10:19

Прямое моделирование, вероятно,

00:10:21

было бы достаточно эффективно.

00:10:23

Конечно, есть хаотичные системы, где важны начальные

00:10:27

условия, но конечное состояние с ними не коррелируется.

00:10:32

Это смоделировать трудно.

00:10:34

Тут вопрос все еще стоит ребром.

00:10:37

Но посмотрите на то, какие задачи мы уже решили, и посмотрите на

00:10:43

генерацию видео в Veo 3 - рендеринг физики, освещения и тому подобного,

00:10:51

фундаментальные физические

00:10:53

аспекты - это довольно интересно.

00:10:56

Как по мне, это нам намекает на

00:10:58

то, как структурирована вселенная.

00:11:00

В некотором смысле именно для этого я хочу создать сильный ИИ - чтобы

00:11:05

помочь нам, ученым ответить на такие вопросы, как равенство P и NP.

00:11:09

Лекс: Я думаю мы еще не раз удивимся тому, что

00:11:12

можно смоделировать классическими компьютерами.

00:11:14

AlphaFold 3, к примеру.

00:11:18

Удивительно, что можно добиться

00:11:20

какого-либо прогресса в этом направлении.

00:11:22

AlphaGenome - удивительно, что можно

00:11:25

отобразить генетический код на функцию.

00:11:28

Это своего рода игра с эмерджентными явлениями.

00:11:31

Кажется, что есть так много комбинаций, а вы берете и

00:11:34

находите ядро, которое можно эффективно смоделировать.

00:11:36

Демис: Да, потому что есть некоторая структура, некий энергетический

00:11:40

ландшафт, который можно проследить, градиент, которому можно следовать.

00:11:44

А нейросети очень хорошо следуют градиентам.

00:11:47

Если ты нашел градиент и можешь задать правильную целевую

00:11:51

функцию, не обязательно иметь дело со всей остальной сложностью.

00:11:56

Хотя мы десятилетиями наивно полагали иначе.

00:12:00

Если просто перечислять все возможные комбинации, задача

00:12:04

выглядит неразрешимой, и подобных проблем очень много.

00:12:07

Ты думаешь: "Потенциальных структур белков - 10 в 300-й

00:12:11

степени, потенциальных ходов в Го - 10 в 170-й степени.

00:12:14

Это намного больше, чем атомов во вселенной, как вообще возможно

00:12:19

найти правильное решение или предсказать следующий шаг?"

00:12:22

Но оказывается, что это возможно.

00:12:24

Сама реальность, природа уже это сделала.

00:12:27

Белки сворачиваются.

00:12:28

Это дает вам уверенность, что если мы поймем, как это сделала физика,

00:12:34

то сможем имитировать этот процесс, то есть смоделировать его,

00:12:39

и гипотеза в том, что это можно

00:12:41

выполнить с помощью классических систем.

00:12:44

Лекс: И, конечно, есть нелинейные динамические системы,

00:12:47

высоконелинейные динамические системы, всё, что связано с жидкостью.

00:12:51

Недавно я общался с Теренсом Тао, который в математике

00:12:56

сталкивается с очень

00:12:57

сложным аспектом систем, которые обладают

00:13:01

сингулярностью, и ломают математику.

00:13:04

Людям трудно делать точные прогнозы

00:13:06

относительно нелинейных динамических систем.

00:13:09

Но, возвращаясь к твоей мысли, нас может сильно удивить, на что

00:13:13

способны классические системы, даже когда речь идет о жидкостях.

00:13:16

Демис: Да, именно.

00:13:17

Гидродинамика, уравнения Навье-Стокса - их традиционно считают очень

00:13:21

сложными, практически неразрешимыми задачами для классических систем.

00:13:25

Они требуют колоссальных вычислительных

00:13:27

ресурсов, системы прогнозирования погоды.

00:13:29

Все это подразумевает расчеты по гидродинамике.

00:13:32

Но опять же, если посмотреть на ту же Veo, нашу

00:13:35

модель генерации видео, она довольно хорошо…

00:13:38

даже удивительно хорошо моделирует

00:13:41

жидкости, материалы и зеркальное освещение.

00:13:44

Мне особенно нравятся видео, в которых прозрачные жидкости

00:13:48

проходят через гидравлический пресс и выдавливаются оттуда.

00:13:52

Когда-то я сам писал физические и графические движки для игр и знаю,

00:13:56

насколько мучительно сложно создавать программы, способные на такое.

00:14:01

А эти системы каким-то образом воспроизводят поведение

00:14:05

материалов, просто анализируя видео с YouTube.

00:14:07

Предположительно, они извлекают какую-то внутреннюю

00:14:11

структуру, описывающую поведение этих материалов.

00:14:15

Возможно, существует некое низкоразмерное

00:14:17

многообразие, которое можно

00:14:19

выучить, если бы мы действительно понимали, что происходит

00:14:22

«под капотом».

00:14:23

Может быть, это вообще справедливо

00:14:25

для большей части реальности.

00:14:27

Лекс: Да, меня постоянно

00:14:28

удивляет именно этот аспект Veo 3.

00:14:31

Многие выделяют разные аспекты, и комедийный и враждебный

00:14:35

потенциал, и способность ультрареалистично отображать людей -

00:14:40

очень убедительно и очень близко к реальности,

00:14:43

а еще сочетать это всё с нативным аудио.

00:14:46

Все это замечательно работает в

00:14:49

Veo 3, но ты говоришь именно о физике.

00:14:53

Демис: Да. Лекс: Она не идеальна, но чертовски хороша.

00:14:55

Тут возникает интересный научный вопрос - что модель

00:14:59

понимает о нашем мире, чтобы иметь возможность так делать?

00:15:04

С циничной точки зрения, нет шансов, что

00:15:07

диффузионные модели что-либо понимают.

00:15:10

Но я не думаю, что можно сгенерировать

00:15:13

такое видео без понимания.

00:15:15

Перед нами встает еще и философский

00:15:18

вопрос - что вообще значит “понимать”?

00:15:21

До какой степени, по-твоему,

00:15:23

Veo 3 понимает наш мир?

00:15:25

Демис: Я думаю, в той степени, чтобы она могла

00:15:27

предсказать следующие кадры последовательным образом.

00:15:30

Это форма понимания.

00:15:33

Не в антропоморфном смысле.

00:15:35

Это не какое-то глубокое философское

00:15:37

понимание того, что происходит.

00:15:39

Я не думаю, что системы работают так, но

00:15:42

они определенно - так скажем - смоделировали

00:15:45

достаточно динамики, чтобы довольно точно генерировать что бы то ни было.

00:15:50

Восемь секунд последовательного видео, в котором на глаз, по

00:15:53

крайней мере с первого взгляда, довольно трудно найти подвох.

00:15:57

Представьте что будет через два или три года

00:15:59

- вот о чем я думаю, насколько невероятно

00:16:02

будут выглядеть видео, по сравнению с ранними

00:16:05

версиями, которые были год или два назад.

00:16:08

Скорость прогресса невероятная.

00:16:11

Я как и ты.

00:16:14

Многим людям нравятся стендап-комики, язык тела

00:16:18

и модели хорошо отображают человеческую динамику.

00:16:22

Но меня больше всего впечатляет и очаровывает

00:16:26

физика, освещение, материалы и жидкости.

00:16:29

Довольно удивительно, что модель на такое способна.

00:16:33

Это показывает, что у неё есть некое, по крайней мере

00:16:37

интуитивное понимание физики и того, как всё должно работать.

00:16:42

Возможно, такое же, как у человеческого ребенка, в противовес

00:16:47

аспиранту, действительно способному распаковать все уравнения.

00:16:51

У неё больше интуитивное понимание физики.

00:16:54

Лекс: Ну, интуитивное понимание физики, это базовый

00:16:57

слой, это то, что люди иногда называют здравым смыслом.

00:17:01

Модель действительно что-то понимает,

00:17:03

и наверное это многих и удивило.

00:17:05

Я поражаюсь…

00:17:06

я просто не думал, что можно будет генерировать

00:17:09

такой уровень реализма без понимания.

00:17:11

Есть представление, что можно понять физический мир только имея

00:17:16

воплощенную систему ИИ - робота, который взаимодействует с этим миром.

00:17:20

Это единственный способ

00:17:22

построить понимание этого мира.

00:17:23

Лекс: Но Veo 3 бросает вызов этому представлению.

00:17:27

Демис: Да, и это очень интересно.

00:17:29

Если бы меня спросили 5-10 лет назад, даже

00:17:31

несмотря на то, что я глубоко погружен в

00:17:33

эту сферу, я бы сказал: "Ну, да, вероятно,

00:17:35

нужно будет понимать интуитивную физику.”

00:17:37

Если я столкну со стола этот стакан, он

00:17:41

может разбиться, и жидкость прольется.

00:17:45

Мы это понимаем.

00:17:47

Но я думал, да и в нейронауке есть много теорий, касающихся “действия в

00:17:51

восприятии”, что для глубокого восприятия мира,

00:17:54

в нем нужно действовать.

00:17:56

И было много теорий о том, что нужен воплощенный интеллект

00:18:00

или робототехника

00:18:01

или хотя бы симулированное действие, чтобы понять интуитивную физику.

00:18:06

Но кажется, её можно понять через

00:18:09

пассивное наблюдение, что меня удивило.

00:18:12

И опять же, я думаю, это намек на что-то базовое в природе

00:18:17

самой реальности, а не просто генерация крутых видео.

00:18:23

И, конечно, есть следующие этапы - может, эти видео можно сделать

00:18:27

интерактивными, чтобы фактически войти в них и перемещаться по ним.

00:18:31

Это было бы умопомрачительно, особенно

00:18:33

учитывая мой геймдевский бэкграунд.

00:18:35

Представь только.

00:18:36

Вот тут мы начинаем приближаться к тому, что я бы назвал моделью мира,

00:18:41

моделью того, как работает мир, механика

00:18:44

мира, физика мира и вещи в этом мире.

00:18:46

И, конечно, это понадобится для

00:18:48

настоящей системы сильного ИИ.

00:18:50

Лекс: Мне нужно поговорить с тобой о видеоиграх.

00:18:52

Ты всё чаще появляешься в Twitter, в

00:18:55

X, что здорово, и троллишь там людей.

00:18:59

Чувак, Джимми Эпплс твитнул: "Позвольте мне

00:19:02

уже поиграть в видеоигру из моих видео Veo 3.

00:19:05

Google круто выступил.

00:19:07

Когда будут игровые модели мира?"

00:19:08

А ты ретвитнул с подписью: “вот это было бы круто…”

00:19:15

Насколько сложно

00:19:16

создавать игровые миры с ИИ?

00:19:18

Можешь заглянуть в будущее игр на 5-10 лет вперед?

00:19:25

Как они будут выглядеть?

00:19:27

Демис: На самом деле, игры были моей первой любовью, первая моя работа в

00:19:32

подростковом возрасте была делать ИИ для

00:19:35

игр, это мои первые крупные ИИ-системы.

00:19:37

Я бы хотел однажды к этому

00:19:39

вернуться, и думаю, что вернусь.

00:19:42

Я все размышляю, что бы я делал в девяностых, если бы у меня

00:19:47

был доступ к такому типу ИИ-систем, которые у нас есть сейчас?

00:19:52

Можно было бы создавать

00:19:53

абсолютно умопомрачительные игры.

00:19:55

Я думаю, следующим этапом будет…

00:19:56

все игры, над которыми я

00:19:58

работал, были с открытым миром.

00:20:00

Это игры, в которых есть симуляция, есть

00:20:03

ИИ-персонажи, и в зависимости от того,

00:20:06

как игрок взаимодействует с этой симуляцией,

00:20:09

она адаптируется под его поведение.

00:20:11

Я всегда думал, что это самые крутые игры.

00:20:14

Например игра Theme Park, над которой я работал, где у каждого был

00:20:18

свой уникальный опыт игры, потому что вы её как бы создавали сами.

00:20:22

Мы устанавливаем параметры, задаем начальные условия, а затем вы

00:20:26

как игрок погружаетесь в неё, и создаете игру вместе с симуляцией.

00:20:30

Но, конечно, игры с открытым

00:20:32

миром очень трудно программировать.

00:20:33

Нужно создавать контент в любом направлении, куда пойдёт

00:20:37

игрок, и делать его увлекательным независимо от выбора игрока.

00:20:41

Поэтому их всегда было довольно трудно создавать - как и клеточные

00:20:45

автоматы, эти классические системы порождали эмерджентное поведение,

00:20:49

но они всегда были немного

00:20:50

хрупкими, немного ограниченными.

00:20:52

Теперь мы, возможно, находимся на пороге создания ИИ-систем, которые в

00:20:57

ближайшие годы, пять-десять лет смогут творить, опираясь на ваше воображение,

00:21:02

динамически менять историю и повествование, делать

00:21:06

их драматичными независимо от вашего выбора.

00:21:09

Это идеальная игра "выбери себе приключение".

00:21:12

Мы, возможно, к этому близки, если

00:21:14

представить интерактивную версию Veo, а затем

00:21:18

экстраполировать на пять-десять лет вперёд

00:21:21

и представить, насколько она станет хороша.

00:21:24

Лекс: Ты много интересного сказал.

00:21:26

Во-первых, открытый мир, и встроенная

00:21:29

в него глубокая персонализация.

00:21:33

Дело не только в том, что это открытый мир,

00:21:36

где можно открыть любую дверь и за ней что-то

00:21:39

будет, а в том, что сам выбор конкретной

00:21:42

двери определяет миры, которые ты увидишь.

00:21:45

Некоторые игры пытаются такое провернуть, они дают вам выбор, но

00:21:49

на самом деле это лишь иллюзия выбора, потому что это всего лишь..

00:21:53

как в игре Stanley Parable, где всего

00:21:57

пара дверей, и ты просто идешь по сюжету.

00:22:00

Stanley Parable - отличная видеоигра.

00:22:02

Всем рекомендую в неё сыграть, это мета-игра, которая высмеивает

00:22:07

иллюзию выбора, в ней заложены философские понятия свободы воли.

00:22:12

Но я действительно... одна из моих любимых

00:22:16

игр Elder Scrolls - это Daggerfall,

00:22:19

в которой они экспериментировали со случайной генерацией

00:22:25

подземелий на входе.

00:22:26

Это дает ощущение открытого мира.

00:22:29

Ты упомянул интерактивность.

00:22:32

Это первый шаг, потому что там даже не

00:22:33

нужно с чем-то много взаимодействовать.

00:22:35

Просто когда ты открываешь дверь, то, что ты

00:22:38

видишь, было случайно сгенерировано для тебя.

00:22:40

И это уже невероятный опыт, потому что ты можешь быть

00:22:43

единственным человеком, который это когда-либо увидит.

00:22:46

Демис: Да, именно.

00:22:47

Но хотелось бы что-то получше,

00:22:49

чем просто случайная генерация.

00:22:52

И точно лучше, чем

00:22:54

прописанный выбор - А или Б.

00:22:58

Это не настоящий открытый мир.

00:23:00

Как ты и говоришь, это просто иллюзия выбора.

00:23:03

В игровой среде хочется иметь возможность

00:23:05

делать потенциально что угодно.

00:23:08

Единственный способ это сделать -

00:23:10

использовать генеративные системы.

00:23:12

Системы, которые будут генерировать всё на лету.

00:23:15

Невозможно создать бесконечное количество игровых ресурсов,

00:23:18

создание трипл-эй игр сегодня и так дорого обходится.

00:23:21

Всё это было очевидно ещё в

00:23:23

девяностых, когда я работал над играми.

00:23:25

В игре Black & White, над которой я работал на ранних

00:23:29

этапах, был, вероятно, лучший ИИ, обучающийся ИИ.

00:23:33

Это была ранняя версия системы

00:23:35

обучения с подкреплением.

00:23:37

Ты заботился о мифическом

00:23:38

существе, растил и воспитывал его.

00:23:40

И в зависимости от того, как ты с ним обращался, оно

00:23:43

так же обращалось с жителями деревни в этом мире.

00:23:45

Если обращался с ним плохо, оно было злым.

00:23:47

Если был добр, оно становилось защитником.

00:23:49

Результат был отражением того, как ты играешь.

00:23:52

На самом деле всё, чем я сегодня занимаюсь...

00:23:54

В начале своей карьеры я работал над

00:23:57

симуляциями и ИИ в играх, и всё, что я делаю

00:24:01

сегодня, это продолжение тех ранних, более ограниченных

00:24:05

способов создания ИИ.

00:24:07

Теперь это полностью обучающиеся системы,

00:24:09

которые пытаются достичь того же.

00:24:12

Лекс: Да, забавно наблюдать, как вы с Илоном явно

00:24:16

жаждете создавать игры, потому что вы оба геймеры.

00:24:21

И один из печальных аспектов вашего

00:24:23

невероятного успеха во многих областях науки, в

00:24:26

серьёзных взрослых вещах, в том, что у вас

00:24:29

может не остаться времени на создание игры.

00:24:32

Вы можете в итоге создать инструментарий, который

00:24:34

другие будут использовать для создания игр.

00:24:36

Лекс: А вам придётся наблюдать…

00:24:39

Демис: Именно.

00:24:40

Лекс: …как другие создают

00:24:41

то, о чём вы всегда мечтали.

00:24:42

Как думаешь, ты сможешь найти время в своём

00:24:46

чрезвычайно загруженном графике, чтобы создать

00:24:50

что-то вроде Black & White, настоящую видеоигру,

00:24:54

и воплотить детскую мечту в реальность?

00:24:58

Демис: Ну, я тут думаю про два момента: возможно,

00:25:00

с улучшением вайб-кодинга

00:25:02

будет вероятность, что я смог бы провернуть

00:25:04

что-то подобное в свободное время.

00:25:06

Вот это меня радует, если у меня будет время

00:25:08

заняться вайб-кодингом, это был бы мой проект.

00:25:11

Просто жду не дождусь.

00:25:14

А второй - возможно, я возьму творческий отпуск после

00:25:17

того, как мы внедрим безопасный сильный ИИ в мир.

00:25:21

Это и работа над моей теорией физики,

00:25:23

о которой мы говорили в начале.

00:25:25

Этими проектами я бы занялся

00:25:27

после появления сильного ИИ.

00:25:29

Лекс: Я бы с удовольствием посмотрел, что ты

00:25:32

выберешь: решение проблемы, над которой бились

00:25:36

самые умные люди в истории человечества,

00:25:39

равенство P и NP, или создание крутой видеоигры.

00:25:43

Демис: Но в моём мире они были бы связаны, потому что это была

00:25:47

бы игра с открытым миром, максимально реалистичная симуляция.

00:25:51

Что такое вселенная?

00:25:54

Это тоже касается P равно NP.

00:25:56

В моей голове эти две вещи связаны.

00:25:59

Лекс: На видеоигры иногда смотрят свысока как на просто

00:26:03

забавную побочную деятельность, не относятся к ним серьезно.

00:26:06

Но по мере того, как ИИ выполняет всё больше и больше сложных и

00:26:11

скучных задач - то, что мы в современном мире называем работой,

00:26:17

видеоигры могут оказаться тем, в чём мы

00:26:21

найдем смысл, чем будем занимать своё время.

00:26:25

Можно будет создавать наполненный, значимый опыт.

00:26:29

Вот у нас есть человеческая жизнь.

00:26:31

А в видеоиграх можно создавать более сложные,

00:26:36

более разнообразные способы её проживать.

00:26:40

- Лекс: В этом же замысел? - Демис: Да.

00:26:42

Для тех из нас, кто любит игры, как я их

00:26:46

люблю, это способ дать разгуляться воображению.

00:26:51

Я любил игры и работать над ними

00:26:53

так сильно, потому что это слияние..

00:26:56

особенно в девяностых и начале двухтысячных, может даже в

00:26:59

восьмидесятых - это была своего рода золотая эра игровой индустрии.

00:27:02

Это было её становление.

00:27:04

Открывались новые жанры.

00:27:05

Мы не просто делали игры, мы чувствовали, что создаём новую

00:27:08

развлекательную среду, которой никогда не существовало раньше.

00:27:12

Особенно в играх с открытым миром и в

00:27:14

симуляциях, где ты, как игрок, создавал историю.

00:27:16

Нет другой среды, развлекательной

00:27:18

среды, где это возможно.

00:27:20

Где аудитория участвует в создании истории.

00:27:23

А теперь появились многопользовательские

00:27:26

игры, это социальная

00:27:27

деятельность, и возможность исследовать разные интересные миры.

00:27:32

Но с другой стороны, очень важно

00:27:35

наслаждаться физическим миром, жить в нём.

00:27:39

Я думаю, нам снова придётся столкнуться с вопросом

00:27:42

о том, какова фундаментальная природа реальности?

00:27:45

Чем будут отличаться всё более реалистичные симуляции,

00:27:49

многопользовательские

00:27:51

и эмерджентные, от того, что мы делаем в реальном мире?

00:27:55

Лекс: Да, очевидно, есть огромная ценность

00:27:58

в проживании реального мира, природы.

00:28:01

Есть огромная ценность во взаимодействии с

00:28:04

другими людьми, лично, как мы с тобой сейчас.

00:28:07

Но нам нужно научно и четко ответить на вопрос, почему

00:28:12

и какие аспекты можно перенести в виртуальный мир.

00:28:17

Демис: Именно. Лекс: Недостаточно сказать: "Иди

00:28:20

потрогай траву и погуляй на природе".

00:28:22

Лекс: Почему, чем именно это ценно?

00:28:24

Демис: Да.

00:28:25

Полагаю, именно эти вопросы и преследовали

00:28:28

меня, я был одержим ими с самого начала карьеры.

00:28:31

Всё, чем я занимался, неким образом переплетено.

00:28:34

Симуляция, природа реальности и

00:28:37

границы того, что можно смоделировать.

00:28:40

Лекс: Извини за нелепый вопрос, по-твоему,

00:28:42

какая величайшая видеоигра всех времён?

00:28:44

Лучшая из всех.

00:28:45

Демис: Моя самая любимая игра - Цивилизация.

00:28:49

Цивилизация 1 и Цивилизация 2 -

00:28:51

мои самые любимые игры всех времен.

00:28:55

Лекс: Могу только предположить, что ты не играл в самую последнюю,

00:28:59

и оставил её на творческий отпуск, а то бы тебя потеряли.

00:29:03

Демис: Да, именно.

00:29:04

Цивилизация занимают много времени,

00:29:06

с этой серией нужно быть поаккуратней.

00:29:08

Лекс: Такой вопрос.

00:29:09

Ты и Илон довольно солидные геймеры.

00:29:14

Есть ли связь между хорошими показателями

00:29:17

в играх и лидерством в ИИ-компаниях?

00:29:20

Демис: Не знаю. Хороший вопрос.

00:29:21

Мы оба любим игры, и он

00:29:24

тоже начинал с написания игр.

00:29:27

Вероятно, особенно в эпоху, в которой я вырос...

00:29:30

Тогда домашние компьютеры только появились в конце

00:29:32

восьмидесятых и девяностых, особенно в Великобритании.

00:29:35

У меня был Spectrum, а потом Commodore

00:29:37

Amiga 500 - это самый любимый мой компьютер.

00:29:40

Именно так я и научился программированию.

00:29:42

И конечно, программировать игры - очень весело.

00:29:46

Это пожалуй даже до сих пор отличный

00:29:48

способ обучиться программированию.

00:29:50

Конечно, я сразу же пошел в сторону ИИ и симуляций, так что смог объединить

00:29:57

свой интерес к играм и свои более широкие научные интересы в одно.

00:30:03

И последнее, игры великолепны тем, что объединяют художественный

00:30:09

дизайн, искусство с самым передовым программированием.

00:30:14

Опять же, в девяностых все самые интересные

00:30:17

технические достижения происходили в играх,

00:30:20

будь то ИИ, графика, физические движки, оборудование,

00:30:24

даже GPU изначально были разработаны для игр.

00:30:27

Всё, что в девяностых двигало

00:30:29

вычисления вперёд, было благодаря играм.

00:30:33

Именно на этом поле происходили передовые исследования,

00:30:36

и это было невероятное слияние с искусством.

00:30:40

Графика, музыка и совершенно

00:30:43

новые способы повествования.

00:30:45

Обожаю игры.

00:30:46

Для меня это своего рода мультидисциплинарная

00:30:49

работа, и я наслаждаюсь ей всю свою жизнь.

00:30:52

Лекс: Я должен спросить вот о чем: я чуть не

00:30:55

забыл спросить об одном из самых удивительных

00:30:58

проектов, который почему-то ещё не получил

00:31:01

достаточного внимания - AlphaEvolve.

00:31:04

Мы немного говорили об эволюции, и это система

00:31:07

Google DeepMind, которая развивает алгоритмы.

00:31:10

Являются ли такие эволюционные техники многообещающими

00:31:12

как компонент будущих систем суперинтеллекта?

00:31:15

Для тех, кто не знает, это своего рода.. не знаю, можно

00:31:19

ли так сказать, эволюционный поиск под руководством LLM.

00:31:23

Лекс: Эволюционные алгоритмы выполняют поиск, а LLM говорят, куда идти.

00:31:27

Демис: Да.

00:31:28

Демис: Да, именно.

00:31:30

LLM как бы предлагают некоторые возможны решения, а затем используются

00:31:34

эволюционные вычисления, чтобы найти новую часть пространства для поиска.

00:31:39

На самом деле это пример многообещающих направлений,

00:31:43

где LLM или

00:31:44

базовые модели комбинируются с другими вычислительными техниками.

00:31:49

Эволюционные методы - одна из них, но можно

00:31:51

представить и поиск по дереву Монте-Карло.

00:31:54

То есть многие типы алгоритмов поиска или алгоритмов рассуждения

00:31:58

используют базовые модели в качестве основы, они как надстройка.

00:32:02

Я на самом деле думаю, что еще довольно много интересного

00:32:06

обнаружится в работе с гибридными системами, назовём их так.

00:32:10

Лекс: Я не романтизирую эволюцию…

00:32:12

Демис: Ага.

00:32:13

Лекс: Я всего лишь человек, но как думаешь, есть ли

00:32:15

некая ценность в этом механизме, каким бы он ни был?

00:32:17

Мы уже говорили о природных системах.

00:32:19

Думаешь, у нас есть простые способы понять,

00:32:22

смоделировать, симулировать эволюцию,

00:32:27

а потом использовать то, что мы уже знаем об этом

00:32:31

вдохновленном природой механизме, чтобы улучшить поиск?

00:32:36

Демис: Да. Если разобраться в системах,

00:32:40

которые мы построили, посмотреть

00:32:43

на их фундаментальное ядро - есть модель базовой динамики системы.

00:32:49

Если вы хотите открыть что-то новое, что-то

00:32:52

новаторское, доселе невиданное, то вам

00:32:55

нужен дополнительный процесс, который приведет

00:32:59

вас к новой части пространства поиска.

00:33:01

Это можно сделать несколькими способами.

00:33:04

Эволюционные вычисления - один из них.

00:33:06

В AlphaGo мы использовали поиск по дереву Монте-Карло, и именно

00:33:11

так нашли ход 37, новую, ранее неизвестную стратегию в го.

00:33:15

Так можно выйти за пределы

00:33:17

того, что потенциально известно.

00:33:19

Модель может моделировать всё, что вы знаете на этом этапе,

00:33:22

все данные, которые у вас прямо сейчас, но как пойти дальше?

00:33:25

Вот тут уже речь про творчество.

00:33:28

Как системы способны создать что-то новое?

00:33:30

Делать реальные открытия?

00:33:32

Очевидно, это актуально для научных открытий или

00:33:34

продвижения науки и медицины вперёд - этим мы и занимаемся.

00:33:38

Вместе с моделями можно использовать некоторые довольно простые

00:33:43

поисковые системы, что приведет вас в новую область пространства.

00:33:48

Конечно, нужно убедиться, что вы не выполняете абсолютно

00:33:51

случайный поиск по этим пространствам, они слишком большие.

00:33:54

У вас должна быть какая-то целевая функция,

00:33:56

которую вы пытаетесь оптимизировать и идти к ней.

00:33:58

Она направляет весь поиск.

00:34:00

Лекс: Есть интересный механизм эволюции,

00:34:03

возможно, в пространстве программ.

00:34:05

Хотя пространство программ - чрезвычайно важное пространство,

00:34:08

потому что его, вероятно, можно распространить на всё.

00:34:10

Но, например, мутация.

00:34:14

Это не просто поиск по дереву

00:34:16

Монте-Карло, именно поиск.

00:34:19

Время от времени можно -

00:34:21

Демис: Комбинировать.

00:34:22

Лекс: Комбинировать, менять разные компоненты.

00:34:25

Демис: Да.

00:34:26

Лекс: Эволюция хороша тем, что это не просто естественный отбор, это

00:34:32

комбинирование построение всё более сложных иерархических систем.

00:34:37

Вот этот компонент супер интересный, особенно

00:34:40

с AlphaEvolve и пространством программ.

00:34:43

Демис: Да, именно. Из эволюционных систем можно получить дополнительное

00:34:47

свойство, могут появиться какие-то эмерджентные способности.

00:34:50

С жизнью так и получилось.

00:34:53

Интересно, что с наивные, традиционные методы

00:34:57

эволюционных вычислений без LLM и современного ИИ,

00:35:00

были очень хорошо изучены в

00:35:02

девяностых и начале двухтысячных.

00:35:05

Да, многообещающие результаты были, но проблема заключалась в том, что

00:35:08

невозможно было понять, как развивать новые, эмерджентные свойства.

00:35:12

Всегда было как бы подмножество свойств,

00:35:14

которые закладывались в систему, но, возможно,

00:35:16

если мы объединим их с базовыми моделями,

00:35:18

то сможем преодолеть это ограничение.

00:35:21

Очевидно, что естественная эволюция так и сделала.

00:35:24

Она развила новые способности -

00:35:26

от бактерий до того, что есть сейчас.

00:35:28

Очевидно, эволюционные системы способны генерировать

00:35:33

новые паттерны - к слову

00:35:35

о том, о чём мы говорили - и новые способности, и эмерджентные свойства.

00:35:41

Возможно, мы на пороге понимания как это сделать.

00:35:44

Лекс: Слушай, AlphaEvolve - одна из самых

00:35:47

крутых вещей, которые я когда-либо видел.

00:35:49

Я большую часть времени провожу дома за компьютером, просто

00:35:53

программирую, и на столе, рядом с тремя экранами стоит череп тиктаалика.

00:35:59

Это один из ранних организмов,

00:36:02

вылезших из воды на сушу.

00:36:05

Я иногда просто смотрю на него и думаю: каков бы

00:36:10

ни был механизм эволюции, он довольно невероятен.

00:36:15

Демис: Да.

00:36:16

Лекс: Это действительно невероятно.

00:36:18

Не знаю нужно ли нам следовать именно этому механизму, но

00:36:22

не стоит отвергать силу природы, и то, что она создала.

00:36:26

Демис: Да.

00:36:28

И удивительно, это же, по сути, относительно простой алгоритм,

00:36:32

но он смог

00:36:33

сгенерировать огромную сложность, пусть

00:36:36

и на временном отрезке в 4 миллиарда лет.

00:36:39

Можно воспринимать это как процесс поиска,

00:36:42

который работал на физическом субстрате

00:36:46

вселенной в течение длительного времени, и в

00:36:50

итоге породил невероятное богатое разнообразие.

00:36:54

Лекс: Я так много вопросов тебе хочу задать.

00:36:56

Во-первых, у тебя есть мечта - одна из природных

00:36:59

систем, которую ты хочешь смоделировать, - это клетка.

00:37:03

Прекрасная мечта.

00:37:05

Хотел бы об этом поговорить.

00:37:07

Еще, с точки зрения исследователя

00:37:11

ИИ в широком смысле…

00:37:14

Дэниэл Кокотайло, Скотт Александер и другие написали эссе, в котором

00:37:18

расписаны шаги на пути к сильному ИИ, и в нём есть много интересных идей,

00:37:23

одна из которых - сверхчеловеческий программист

00:37:27

и сверхчеловеческий исследователь ИИ.

00:37:30

И там есть интересный такой

00:37:32

термин - “исследовательский вкус”.

00:37:35

Исходя из твоего опыта, может ли ИИ-система иметь

00:37:39

исследовательский вкус, чтобы помогать тебе так же, как ИИ-учёный?

00:37:45

Помогать направлять блестящих учёных-людей?

00:37:51

А потенциально и самостоятельно выбирать

00:37:55

направления, где нужно генерировать новые идеи?

00:37:59

Это кажется важным

00:38:01

компонентом великих открытий.

00:38:04

Демис: Да, я думаю, имитировать или смоделировать

00:38:08

вкус или рассудительность будет сложнее всего.

00:38:11

Ведь именно они отличают хороших ученых от великих.

00:38:16

Все профессиональные учёные хороши технически, иначе

00:38:19

они бы в своей деятельности не зашли так далеко.

00:38:23

А вот есть ли у них вкус, чтобы вынюхать правильное

00:38:26

направление, правильный эксперимент, правильный вопрос?

00:38:30

Выбор правильного вопроса и остроение

00:38:33

правильной гипотезы - самая сложная часть науки.

00:38:36

На это нынешние системы определённо не способны.

00:38:41

Я часто говорю, что труднее придумать гипотезу,

00:38:44

действительно хорошую гипотезу, чем решить её.

00:38:47

В ближайшее время у нас могут появиться системы,

00:38:50

способные решать довольно сложные гипотезы.

00:38:53

В прошлом году наша система Alpha Proof получила серебряную медаль

00:38:56

за решение по-настоящему трудных задач математической олимпиады.

00:39:00

Возможно, мы дойдем до того, что

00:39:01

решим одну из “задач тысячелетия”.

00:39:03

Но могла бы система придумать гипотезу, достойную

00:39:06

изучения, о которой кто-то вроде Теренса Тао сказал бы:

00:39:09

"Знаете что, это действительно глубокий вопрос о природе

00:39:12

математики или природе чисел или природе физики"?

00:39:15

Это гораздо более сложный тип творчества.

00:39:19

Мы не знаем.

00:39:20

Сегодняшние системы явно на это не способны, и мы не уверены,

00:39:23

каким был бы этот механизм, что требуется для такого вдохновения,

00:39:26

как у Эйнштейна, когда он придумал специальную теорию относительности,

00:39:30

а затем и общую теорию относительности,

00:39:31

зная то, что знал на тот момент.

00:39:33

Лекс: Для гипотезы нужно придумать что-то

00:39:37

интересное, что поддаётся доказательству?

00:39:41

Демис: Да.

00:39:42

Лекс: Легко придумать что-то чрезвычайно сложное.

00:39:45

Легко придумать чрезвычайно простое, а вот посередине…

00:39:48

Демис: Это золотая середина, которая продвигает науку и в

00:39:51

идеале разделяет пространство гипотез на две части, так ведь?

00:39:54

Независимо от того, истинна гипотеза или нет,

00:39:58

вы узнаете что-то полезное, и это сложно.

00:40:01

Плюс, гипотеза должна быть фальсифицируема в

00:40:06

рамках доступных на данный момент технологий.

00:40:11

В этом процессе много творчества.

00:40:14

Очень много творчества.

00:40:16

И мне кажется, простого поиска,

00:40:18

базирующегося на модели, будет недостаточно.

00:40:21

Лекс: Мне нравится идея разделения

00:40:23

пространства гипотез на две части.

00:40:26

Ты как-то говорил, что неудач не существует,

00:40:29

или что неудача чрезвычайно ценна.

00:40:31

Если вы правильно формулируете вопросы,

00:40:33

если вы правильно проектируете эксперименты,

00:40:36

если вы все правильно подготовили, и неудача и успех одинаково полезны.

00:40:39

Видимо потому, что гипотеза делится на две

00:40:41

части, и вы будто выполняете бинарный поиск?

00:40:44

Демис: Да, верно. Когда речь идет о не прикладных исследованиях,

00:40:47

нет такого понимания, как неудача, до тех пор,

00:40:50

пока вы выбираете эксперименты и гипотезы,

00:40:52

которые значимо разделяют пространство гипотез.

00:40:55

Вы узнаёте что-то новое.

00:40:57

Можно узнать что-то настолько же ценное

00:41:00

из эксперимента, который не сработал.

00:41:02

Если вы хорошо спроектировали эксперимент и у вас интересная

00:41:05

гипотеза, вы многое узнаете о том, куда двигаться дальше.

00:41:09

Вы по факту выполняете процесс поиска и

00:41:13

полезным образом используете эту информацию.

00:41:17

Лекс: Вернусь к твоей мечте смоделировать клетку.

00:41:23

Какие вызовы нас ждут впереди?

00:41:26

Возможно, стоит упомянуть, что

00:41:28

AlphaFold сделал кучу прорывов.

00:41:31

AlphaFold решил, если можно так

00:41:32

сказать, проблему фолдинга белков.

00:41:35

И это большая тема для разговора, включая то,

00:41:38

что вы открыли доступ ко всему, что сделали.

00:41:41

AlphaFold 3 работает с взаимодействиями белков, РНК, ДНК -

00:41:45

это супер сложно и интересно, что это поддаётся моделированию.

00:41:50

AlphaGenome предсказывает, как небольшие генетические изменения,

00:41:55

если речь об одиночных мутациях, связаны с реальной функцией.

00:41:59

Кажется, вы подбираетесь к более

00:42:03

сложным вещам, таким как клетка.

00:42:07

Но в клетке много реально сложных компонентов.

00:42:11

Демис: На протяжении всей своей карьеры я старался..

00:42:16

у меня есть грандиозные

00:42:18

мечты, и ты наверняка заметил, что я пытаюсь разбить их на этапы.

00:42:23

Классно, если у тебя есть большая, амбициозная мечта,

00:42:26

но нужно разбить её на

00:42:28

управляемые, достижимые промежуточные шаги,

00:42:30

которые значимы и полезны сами по себе.

00:42:32

Идея сделать проект Virtual Cell - так я называю проект

00:42:36

моделирования клетки, появилась у меня больше 25-и лет назад.

00:42:41

Я общался с Полом Нёрсом, он

00:42:43

своего рода мой наставник в биологии.

00:42:45

Он основал Институт Крика и получил

00:42:48

Нобелевскую премию в 2001 году.

00:42:52

Мы говорили об этом с девяностых, и

00:42:55

я возвращался к теме каждые пять лет.

00:42:59

Что нужно, чтобы полностью смоделировать внутреннюю структуру

00:43:03

клетки, и проводить на виртуальной клетке эксперименты?

00:43:07

То есть как делать эксперименты in silico, чтобы предсказания

00:43:10

были полезны, и чтобы сэкономить время в лаборатории.

00:43:12

Это было бы круто.

00:43:13

Можно было бы ускорить эксперименты в сто раз, делая большую часть

00:43:17

in silico - поиск in silico, а этап валидации уже в лаборатории.

00:43:21

Это мечта.

00:43:23

Может быть сейчас, наконец...

00:43:26

Я пытался построить компоненты, один из

00:43:28

которых - AlphaFold, которые позволили

00:43:31

бы в конечном итоге смоделировать полное

00:43:33

взаимодействие, полную симуляцию клетки.

00:43:36

Я бы, вероятно, начал с дрожжевой клетки.

00:43:38

Их частично изучал Пол Нёрс, потому что дрожжевая

00:43:41

клетка - она как бы организм, но в одной клетке.

00:43:43

Это самый простой одноклеточный организм.

00:43:46

Не просто клетка, а целый организм.

00:43:49

Дрожжи очень хорошо изучены.

00:43:52

Так что это был бы хороший кандидат для симуляции.

00:43:58

AlphaFold - это решение для статической картины

00:44:01

того, как выглядит трёхмерная структура белка.

00:44:05

Статической картины.

00:44:07

Но мы знаем, что в биологии все самое интересное происходят в динамике, во

00:44:11

взаимодействиях, и это то, к чему делает шаг

00:44:13

AlphaFold 3 - моделирование взаимодействий.

00:44:16

Сначала пары белки с белками, белки с РНК и ДНК.

00:44:20

Следующий шаг, возможно, моделирование целого пути,

00:44:24

например сигнального пути TOR, который связан с раком.

00:44:28

И уже в конечном итоге можно

00:44:29

будет смоделировать целую клетку.

00:44:31

Лекс: Там же есть ещё одна сложность -

00:44:33

процессы в клетке происходят за разное время.

00:44:36

Это сложно?

00:44:38

Фолдинг белка, вон, супер быстрый.

00:44:43

Я не знаю всех биологических механизмов,

00:44:46

но некоторые из них занимают много времени.

00:44:48

То есть уровни взаимодействия подразумевают разные

00:44:51

временные отрезки, которые нужно смоделировать.

00:44:53

Демис: Да, это сложно.

00:44:54

Вероятно, понадобится несколько симулированных систем,

00:44:57

которые могут взаимодействовать с разной временнОй динамикой.

00:45:01

А может это будет иерархическая система, с возможностью

00:45:04

прыгать вверх или вниз по разным временнЫм стадиям.

00:45:07

Лекс: А можешь ли ты избежать...

00:45:09

Одна из задач - избежать симуляции, скажем,

00:45:14

квантово-механических аспектов, верно?

00:45:18

Тут же главное не перемудрить?

00:45:20

Нужно просто смоделировать высокоуровневые элементы,

00:45:23

которые дают хорошее понимание того, что произойдёт?

00:45:27

Демис: Да.

00:45:28

Когда моделируешь любую природную систему,

00:45:30

нужно принять решение: каков предельный уровень

00:45:32

детализации ты собираешься моделировать, чтобы

00:45:35

захватить динамику, которая тебя интересует.

00:45:37

Я надеюсь, что для клетки достаточно будет уровня

00:45:40

белка, и до атомного уровня спускаться будет не нужно.

00:45:45

Конечно, там вступает в игру AlphaFold.

00:45:49

Он стал бы основой, на которой можно

00:45:51

построить симуляции более высокого уровня.

00:45:55

За счет этих строительных блоков должно

00:45:58

получиться эмерджентное поведение.

00:46:01

Лекс: Прости за дурацкий вопрос, но как ты думаешь,

00:46:06

сможем ли мы создать модель происхождения жизни?

00:46:11

Симулировать первое рождение живого

00:46:15

организма из неживых организмов?

00:46:19

Демис: Это, конечно, один из самых

00:46:21

глубоких и самых увлекательных вопросов.

00:46:24

Я люблю эту область биологии.

00:46:25

У Ника Лейна, одного из ведущих экспертов в этой области, есть

00:46:30

фантастическая книга - "Десять величайших изобретений эволюции".

00:46:34

Он рассказывает о том, какими могут быть великие

00:46:38

фильтры, прошли мы их, или они только впереди.

00:46:41

Они, скорее всего, в прошлом, если верить книге, и тому,

00:46:44

насколько маловероятно зарождение вообще какой-либо жизни.

00:46:47

Да и переход от одноклеточной к многоклеточной кажется

00:46:50

невероятно большим скачком, который занял миллиард лет.

00:46:53

Представляешь, насколько это было сложно?

00:46:55

Лекс: Бактерии очень долго были счастливы.

00:46:57

Демис: Очень долго, пока каким-то

00:46:58

образом не захватили митохондрии.

00:47:00

Но да, почему бы и нет, почему бы ИИ

00:47:03

не помочь с какой-нибудь симуляцией?

00:47:05

Опять же, это процесс поиска

00:47:07

через комбинаторное пространство.

00:47:10

Весь этот химический бульон, с которого

00:47:12

всё началось, первичный бульон, который,

00:47:14

возможно, был на Земле возле горячих источников - это начальные условия.

00:47:19

Можешь ли ты сгенерировать что-то, похожее на клетку?

00:47:22

Возможно, это будет следующий этап после проекта виртуальной клетки

00:47:27

- как что-то подобное могло возникнуть из химического бульона?

00:47:31

Лекс: Я бы хотел увидеть ход

00:47:32

37 для происхождения жизни.

00:47:34

Я думаю, это одна из великих загадок.

00:47:37

Полагаю, в итоге мы выясним, что это континуум.

00:47:40

Нет определенной границы между неживым и живым.

00:47:43

Если мы сможем показать...

00:47:44

Демис: Да.

00:47:45

Лекс: Что всё от Большого взрыва до

00:47:47

сегодняшнего дня было одним и тем же процессом.

00:47:50

Если ты сможешь разрушить представление, которое

00:47:53

мы себе навязали о фактическом переходе от

00:47:56

неживого к живому, что это не линия, а континуум,

00:47:59

который соединяет физику и химию и биологию...

00:48:02

Что линии нет.

00:48:03

Демис: Именно поэтому я работал

00:48:05

над ИИ и сильным ИИ всю свою жизнь.

00:48:06

Я думаю, он сможет стать тем самым инструментом,

00:48:09

который позволит ответить на такие вопросы.

00:48:11

Я действительно не понимаю, почему

00:48:14

среднестатистический человек так редко об этом думает.

00:48:18

Как так, что у нас нет хорошего определения

00:48:21

живого и неживого, природы времени,

00:48:24

не говоря уже о сознании и гравитации и

00:48:28

куче странностей с квантовой механикой?

00:48:31

У меня все эти вопросы как будто звенят

00:48:34

прямо в ушах и становятся только громче.

00:48:38

“Что тут вообще происходит?”

00:48:40

И это я спрашиваю в самом глубоком смысле, про природу реальности,

00:48:44

ведь это и есть самый последний вопрос, который даст ответ на всё.

00:48:48

Если подумать, это же бред какой-то.

00:48:50

Мы постоянно смотрим и друг на друга, и на разные вещи, можем

00:48:54

исследовать их микроскопами и разбирать почти до атомного уровня.

00:48:58

И всё ещё не можем четко и понятно ответить

00:49:01

на вопрос о том, как определяется живое.

00:49:04

Удивительно.

00:49:05

Лекс: Насчет живого еще как-то

00:49:08

можно не думать, а вот сознание...

00:49:11

Мы проживаем очевидно субъективный, сознательный опыт, будто мы

00:49:14

в центре нашего собственного мира и это ощущается чем-то таким...

00:49:18

Как вообще не кричать в бездну этой тайны?

00:49:23

Люди вообще уже очень

00:49:26

долго сражаются с загадками.

00:49:30

Были и другие тайны, например,

00:49:32

что вообще с солнцем и дождём?

00:49:36

Это что такое?

00:49:37

В прошлом году дождя было много, а в

00:49:40

этом году его нет, что мы сделали не так?

00:49:42

Лекс: Люди долго задавали этот вопрос.

00:49:44

Демис: Именно.

00:49:45

Мне кажется, мы разработали много механизмов, чтобы

00:49:48

справиться с этими тайнами, которые мы не можем...

00:49:51

мы можем видеть, но мы не можем до

00:49:54

конца понять, а жить же как-то надо.

00:49:56

Так что мы просто нашли себе какие-то

00:49:58

занятия, в попытках отвлечься от этого всего.

00:50:01

Лекс: Погода - один из самых важных

00:50:03

вопросов в человеческой истории.

00:50:04

Это до сих пор идеальная тема для светской беседы.

00:50:08

Демис: Да.

00:50:09

Особенно в Англии.

00:50:10

Лекс: И как известно, эту систему чрезвычайно сложно

00:50:16

моделировать, но даже тут Google DeepMind добился прогресса.

00:50:22

Демис: Да, мы создали лучшие в

00:50:24

мире системы прогнозирования погоды.

00:50:27

Они лучше традиционных систем гидродинамики, которые обычно

00:50:31

рассчитываются на огромных суперкомпьютерах,

00:50:34

и расчёты занимают дни.

00:50:36

Нам удалось смоделировать динамику погоды с

00:50:39

помощью нейросетей за счет системы WeatherNet.

00:50:42

Опять же, интересно, что подобную динамику вообще можно

00:50:45

смоделировать, потому

00:50:46

что в некоторых случаях она почти что граничит с хаотическими системами.

00:50:50

Такие системы нейросетей могут

00:50:52

смоделировать много интересных аспектов.

00:50:56

Совсем недавно мы делали предсказание

00:50:58

циклонов, куда могут пойти ураганы.

00:51:01

Конечно, это очень полезно и важно для мира, и очень

00:51:04

важно делать это своевременно и быстро, а не только точно.

00:51:08

Это многообещающее направление симуляции.

00:51:12

Мы можем делать прогнозы и симулировать

00:51:15

очень сложные системы реального мира.

00:51:18

Лекс: У меня была возможность встретиться в Техасе с

00:51:21

сообществом людей, которые называют себя охотниками за штормами.

00:51:25

Мне нужно с ними побольше пообщаться.

00:51:28

Очень интересные люди, и чрезвычайно подкованы технически,

00:51:31

ведь им нужно использовать модели для прогнозирования шторма.

00:51:34

Удивительное сочетание - достаточно безумные,

00:51:38

чтобы стремиться в центр бури, и при этом

00:51:41

использующие сложные модели прогнозирования,

00:51:45

чтобы защитить себя в экстремальной ситуации.

00:51:49

Демис: Ага.

00:51:50

Лекс: Это прекрасный баланс между бытием живых

00:51:54

организмов и передовыми научными инструментами.

00:51:58

Они наверняка пользуются системой DeepMind.

00:52:01

Демис: Надеюсь, что пользуются.

00:52:02

Я бы хотел однажды присоединиться

00:52:04

к ним, выглядит потрясающе.

00:52:05

Демис: Хотелось бы хотя бы раз это испытать.

00:52:07

Лекс: Точно.

00:52:08

Лекс: И чтобы испытать правильное предсказание

00:52:11

- где будет шторм и как он будет развиваться.

00:52:14

- Лекс: Это невероятно. - Демис: Ага.

00:52:15

Лекс: Ты предполагаешь, что

00:52:17

сильный ИИ появится к 2030 году.

00:52:20

У меня есть вопросы.

00:52:22

Как нам понять, что он уже здесь?

00:52:26

И что может "Ходом 37" для сильного ИИ?

00:52:33

Демис: Я считаю, что с вероятностью 50% он

00:52:36

появится в следующие пять лет, то есть к 2030 году.

00:52:39

Вероятность высока.

00:52:42

Отчасти это вопрос определения сильного ИИ.

00:52:45

Люди сейчас об этом спорят, но моя планка довольно высока - можем

00:52:49

ли мы соответствовать когнитивным функциям, которые есть у мозга?

00:52:54

Мы знаем, что наши мозги - это довольно универсальные

00:52:57

машины Тьюринга,

00:52:58

и, конечно, мы создали современную цивилизацию с помощью нашего разума.

00:53:03

Это говорит о том, насколько универсален мозг.

00:53:06

Мы поймем, что перед нами сильный ИИ, когда

00:53:09

увидим, что у него есть такие же способности.

00:53:13

Речь не про рваный интеллект, как нынешние системы,

00:53:17

которые очень хороши в одной области, но ущербны в другой.

00:53:21

Нынешние системы демонстрируют

00:53:22

именно это, они не последовательны.

00:53:24

Нам нужна последовательность

00:53:26

интеллекта по всем направлениям.

00:53:28

Плюс, сейчас вообще отсутствуют некоторые способности,

00:53:30

такие как истинная

00:53:31

способность к изобретениям и творчеству, о которых

00:53:34

мы говорили ранее.

00:53:35

Они тоже нужны.

00:53:37

Как это проверить?

00:53:38

Конечно, один из способов их протестировать -

00:53:42

это своего рода грубая

00:53:43

проверка на десятках тысяч когнитивных задач, которые доступны людям.

00:53:48

Возможно, стоит дать доступ к системе нескольким сотням ведущих

00:53:53

мировых экспертов, Теренсов Тао в каждой предметной области.

00:53:57

Дать им месяц или два и посмотреть, смогут

00:54:00

ли они найти очевидный недостаток в системе.

00:54:04

И если они не могут, то можно быть уверенными,

00:54:07

что перед нами абсолютно универсальная система.

00:54:11

Лекс: Пожалуй, тут я возражу.

00:54:12

По мере того, как ИИ становится лучше в каждой области,

00:54:16

люди начинают всё больше принимать его как должное.

00:54:21

Ты упомянул Теренса Тао.

00:54:23

Все эти блестящие эксперты могут быстро, в

00:54:26

течение недель, начать принимать за должное

00:54:28

всё то, на что ИИ способен, и найти один

00:54:30

маленький недостаток, мол, “НУ ВОТ ЖЕ!”.

00:54:33

Я, прежде всего, считаю себя.. человеком.

00:54:39

Я идентифицирую себя как человек.

00:54:43

Некоторые слушают меня и говорят: "Этот

00:54:46

чувак разговаривать не умеет, он заикается".

00:54:49

У людей есть очевидные ограничения в разных

00:54:53

областях, даже вне математики, физики и так далее.

00:55:00

Интересно, потребуется ли что-то вроде хода 37?

00:55:03

То есть вместо шквала из 10 000 когнитивных задач, он решит

00:55:09

одну или две, но такие, что мы поймем - это нечто особенное.

00:55:14

Демис: Именно.

00:55:15

Я думаю, нужно своего рода общее тестирование,

00:55:17

чтобы убедиться в постоянстве результата.

00:55:20

Но стремиться нужно к таким моментам, как ход 37.

00:55:26

Например, к выдвижению новой гипотезы

00:55:30

по физике, как это сделал Эйнштейн.

00:55:33

Возможно, получится даже провести очень строгий

00:55:37

обратный тест - поставить ограничение на 1900 год,

00:55:40

дать системе всё, что было написано до

00:55:42

этого года, и посмотреть, сможет ли она

00:55:45

придумать специальную или общую теорию

00:55:47

относительности, как это сделал Эйнштейн.

00:55:50

Это был бы интересный тест.

00:55:51

Другой вариант - может ли она

00:55:53

изобрести такую игру, как Го?

00:55:55

Не просто придумать ход 37, новую стратегию, а сможет ли она изобрести

00:55:59

такую же глубокую, эстетически красивую и элегантную игру, как Го?

00:56:03

Я бы искал что-то подобное.

00:56:06

Систему, способную работать в разных

00:56:10

направлениях, и быть универсальной.

00:56:13

Для меня это был бы признак, что

00:56:16

перед нами система уровня сильного ИИ.

00:56:20

А затем эту систему нужно будет проверить на

00:56:23

постоянство, чтобы убедиться, что в ней нет дыр.

00:56:27

Лекс: Если она предложит новую гипотезу

00:56:29

или научное открытие, это было бы круто.

00:56:32

Демис: Да, это было бы потрясающе.

00:56:33

Не просто помогать нам, а

00:56:35

буквально придумать чего-то новое.

00:56:37

Лекс: И это всё прямо у тебя на глазах.

00:56:39

Наверняка, объявите вы об этом только через пару-тройку

00:56:44

месяцев, и ты будешь держаться подальше от твиттера.

00:56:49

Демис: Что-то в этом роде.

00:56:50

Точно. Мол, что это за

00:56:52

удивительная новая идея физики?

00:56:54

Нам, вероятно, нужно было бы проверить её с мировыми экспертами

00:56:58

в этой области, подтвердить её и понять как она работает.

00:57:02

Хотя, модель бы объяснила как именно.

00:57:06

Это был бы потрясающий момент.

00:57:07

Лекс: Беспокоишься ли ты, что люди, даже

00:57:09

эксперты, как ты, могут это пропустить?

00:57:11

Лекс: Могут пропустить..

00:57:12

Демис: Ну, это может быть довольно сложно.

00:57:14

Я привожу такую аналогию - не думаю, что это будет

00:57:18

так уж сложно для лучших человеческих учёных,

00:57:22

но может быть похоже на то, как если бы я играл в шахматы с Гарри

00:57:27

Каспаровым или Магнусом Карлсеном, и они бы сделали блестящий ход.

00:57:31

Я бы такой ход придумать не смог, но они потом

00:57:34

смогли бы объяснить, почему такой ход имел смысл.

00:57:37

До некоторой степени мы бы смогли его понять - не так,

00:57:40

как понимают его они, но если бы они хорошо объяснили..

00:57:43

Это кстати тоже часть интеллекта - способность

00:57:45

простым способом объяснить то, о чём ты думаешь.

00:57:49

Так вот для лучших ученых это будет понятно.

00:57:52

Лекс: А вот интересно, на опыте с Го, есть ли ходы,

00:57:57

которые Магнус или Гарри бы посчитали плохими?

00:58:02

Демис: Да, конечно, такое может быть.

00:58:04

Но потом они интуитивно поймут, почему

00:58:07

ход работает, а затем и эмпирически.

00:58:10

В играх классно то, что это своего рода научный тест.

00:58:14

Выиграешь ли ты игру или проиграешь?

00:58:16

Результат говорит о том, был

00:58:19

ли этот ход или стратегия удачной.

00:58:22

Уже потом ты можешь вернуться и проанализировать

00:58:26

игру и разобраться почему именно.

00:58:29

Именно так работает шахматный анализ.

00:58:31

Возможно, поэтому мой мозг работает именно так - я

00:58:36

занимался с четырёх лет, и это мощная тренировка.

00:58:39

Лекс: Но даже сейчас, когда я генерирую код,

00:58:44

происходит увлекательный, нюансированный спор -

00:58:49

сначала я могу идентифицировать набор сгенерированного

00:58:53

кода как неправильный в некоторых аспектах.

00:58:57

Но затем я всегда задаюсь вопросом -

00:59:00

может, тут есть что-то, чего я не вижу?

00:59:05

Мы с этим будем сталкиваться по мере того,

00:59:07

как системы будут становиться всё умнее.

00:59:09

Лекс: То, что ты только что придумал, это баг или фича?

00:59:13

Демис: Да.

00:59:14

И это будет довольно сложно.

00:59:16

Но, конечно, можно представить, что ИИ-системы ИИ генерируют

00:59:20

какой-либо код,

00:59:22

а программисты-люди проверяют его, и также не без помощи ИИ-инструментов.

00:59:27

Это будет интересно.

00:59:29

Возможно, ИИ-инструменты для мониторинга будут

00:59:32

отличаться от тех, что изначально сгенерировали код.

00:59:36

Лекс: Что касается сильного ИИ, извини, но я

00:59:39

снова упомяну AlphaEvolve, это очень круто.

00:59:43

AlphaEvolve потенциально способна на что-то вроде

00:59:46

рекурсивного самоулучшения, с точки зрения программирования.

00:59:50

Можешь ли ты представить, как она

00:59:52

будет выглядеть в качестве сильного ИИ?

00:59:55

Может, не первая версия, а какая-то

00:59:57

из следующих, как она будет выглядеть?

01:00:00

Будет ли она простой?

01:00:01

Видишь ли ты её как простую,

01:00:03

самоулучшающуюся программу?

01:00:06

Демис: Потенциально это возможно.

01:00:08

Но я не уверен, что желательно, потому

01:00:11

что подразумевает довольно жесткий старт.

01:00:14

Текущие системы, такие как AlphaEvolve, работают вместе

01:00:17

с человеком, он

01:00:18

принимает решения, а отдельные гибридные системы уже взаимодействуют.

01:00:22

Можно было бы представить, что

01:00:24

мы дойдем до сквозного процесса.

01:00:25

Думаю, это вполне возможно.

01:00:27

Но прямо сейчас системы недостаточно

01:00:31

хороши, чтобы продумать архитектуру кода.

01:00:36

Опять же, возвращаясь к

01:00:38

придумыванию новой гипотезы.

01:00:40

Они хороши, если дать им конкретные инструкции,

01:00:43

объяснить чего пытаешься добиться, а

01:00:45

если дать им расплывчатую высокоуровневую

01:00:48

инструкцию, у нынешних систем ничего не выйдет.

01:00:50

Как я говорил про изобретение

01:00:53

новой игры на уровне Го.

01:00:55

Представь такой промт.

01:00:56

Вводных маловато.

01:00:58

Текущие системы не знали бы, что с этим делать,

01:01:01

и как сузить задачу до поддающейся решению.

01:01:04

То же самое и с промтом

01:01:05

“сделай лучшую версию себя”.

01:01:07

Слишком мало ограничений.

01:01:09

Но кое-что мы с AlphaEvolve сделали -

01:01:12

например более быстрое умножение матриц.

01:01:14

Когда ты фокусируешься на конкретной задаче,

01:01:18

модель очень хорошо вносит улучшения.

01:01:21

Но на данный момент это скорее постепенные

01:01:23

улучшения, своего рода небольшие итерации.

01:01:25

Если ты ищешь большого скачка в понимании,

01:01:30

понадобятся гораздо большие улучшения.

01:01:34

Лекс: Да. В противовес сценарию жесткого запуска, есть вариант

01:01:39

последовательных улучшений, таких как умножение матриц.

01:01:44

Модель должна долго размышлять над тем, как

01:01:47

поэтапно что-то улучшить, и делать это рекурсивно.

01:01:51

И по мере улучшений, процесс замедлится.

01:01:55

То есть путь к сильному ИИ

01:01:58

представляет постепенное улучшение.

01:02:02

Демис: Да.

01:02:03

Именно так, если мы говорим

01:02:04

только про постепенные улучшения.

01:02:06

Вопрос в том, могла бы модель придумать

01:02:08

новый скачок, как архитектура трансформеров?

01:02:10

Могла бы она сделать это ещё в 2017

01:02:13

году, когда это сделали мы и Brain?

01:02:15

Не понятно, могли бы системы вроде нашего

01:02:19

AlphaEvolve сделать такой большой скачок.

01:02:22

Конечно, эти системы очень хороши, и

01:02:24

они способны на постепенное улучшение.

01:02:26

Теперь стоит вопрос достаточно ли нам этого,

01:02:30

или нам нужны еще один или два больших прорыва.

01:02:34

Лекс: И могут ли эти системы

01:02:36

сами обеспечить прорывы.

01:02:38

То есть не только совершать постепенные

01:02:41

улучшения, но и большие скачки - время от времени.

01:02:44

Демис: Да, я не думаю, что у кого-то есть системы,

01:02:48

которые однозначно способны на большие прорывы.

01:02:51

Но у нас много систем, которые

01:02:53

развивают то, что уже реализовано.

01:02:54

Лекс: И это был бы ход 37 - скачок.

01:02:57

Демис: Да, пожалуй можно сказать и так.

01:03:01

Лекс: Как тебе кажется, сохраняются ли законы масштабирования в отношении

01:03:05

вычислений на этапах предобучения, постобучения и во время тестирования?

01:03:09

И ожидаешь ли ты, что прогресс ИИ остановится?

01:03:13

Демис: Мы чувствуем, что масштабироваться ещё есть куда, и

01:03:17

это касается всех этапов: предобучения, постобучения и вывода.

01:03:22

То есть, по сути, одновременно

01:03:24

происходят три процесса масштабирования.

01:03:26

И здесь, опять же, всё упирается в

01:03:28

то, насколько ты готов к инновациям.

01:03:31

Мы гордимся тем, что у нас самая большая

01:03:34

и глубокая исследовательская команда.

01:03:37

У нас работают потрясающие учёные - Ноам

01:03:40

Шазир, который придумал трансформеры,

01:03:43

Дейв Силвер, руководивший

01:03:45

проектом AlphaGo, и многие другие.

01:03:47

Эта исследовательская база означает, что если требуется какой-то

01:03:53

прорыв, вроде AlphaGo или трансформеров,

01:03:57

скорее всего его сделаем мы.

01:03:59

Мне на самом деле нравится, когда задачи усложняются.

01:04:02

Потому что тогда это уже не просто про

01:04:04

инженерию, а про настоящие исследования.

01:04:07

Исследования плюс инженерия - это

01:04:09

наша сильная сторона, и это сложно.

01:04:12

Труднее что-то изобрести, чем повторять.

01:04:17

Мы не знаем, нужны ли будут новые прорывы, или достаточно

01:04:22

будет уже того, что есть сейчас - наверное тут 50 на 50.

01:04:27

Мы работаем в обоих направлениях.

01:04:32

Частично - над некоммерческими идеями - на это мы отдаем примерно

01:04:37

половину ресурсов -, а частично над масштабированием текущих систем.

01:04:42

Мы до сих пор видим фантастический

01:04:45

прогресс с каждой версией Gemini.

01:04:48

Лекс: Интересно ты формулируешь относительно

01:04:52

исследовательской команды, что если прогресс к сильному ИИ -

01:04:56

это больше, чем просто масштабирование вычислений на инженерной

01:05:01

стороне, это прорывы на научной стороне, то ты чувствуешь уверенность,

01:05:07

что Google DeepMind находится в хорошей

01:05:10

позиции, чтобы лидировать в этой области.

01:05:13

Демис: Ну, если посмотреть на последние 10-15 лет,

01:05:17

80-90% прорывов, которые

01:05:19

лежат в основе современного ИИ, вышли из

01:05:22

Googl Brain, Google Research и DeepMind.

01:05:25

Так что да, я надеюсь, что так будет и дальше.

01:05:30

Лекс: А что касается данных, тебя беспокоит, что высококачественные

01:05:33

данные, особенно высококачественные человеческие данные закончатся?

01:05:36

Демис: Не очень.

01:05:38

Частично потому, что как по мне, данных достаточно,

01:05:41

и уже доказано, что их достаточно для хороших систем.

01:05:44

Тут опять вопрос симуляций.

01:05:47

Если данных для симуляций достаточно, чтобы создавать

01:05:51

синтетические данные с нужным распределением, в этом весь ключ.

01:05:56

Нужно достаточно реальных данных, чтобы создавать

01:06:01

генераторы данных, и мы сейчас на этом этапе.

01:06:05

Лекс: Ты многого добился в науке и биологии,

01:06:09

не обладая огромным количеством данных.

01:06:12

Демис: Да. Лекс: Их просто достаточно, чтобы...

01:06:14

Демис: Чтобы запустить процесс, да.

01:06:18

Лекс: Насколько важно масштабирование

01:06:20

вычислений для создания сильного ИИ?

01:06:22

Это инженерный вопрос.

01:06:24

А может даже геополитический, потому что

01:06:29

предполагает цепочки поставок и энергию.

01:06:33

Тебя вот очень интересует термоядерный синтез,

01:06:36

так что еще и инновации на стороне энергии.

01:06:39

Как думаешь, мы будем продолжать

01:06:40

масштабировать вычисления?

01:06:41

Демис: Думаю да, по нескольким причинам.

01:06:43

Во-первых, есть вычислительные мощности, которые нужны

01:06:46

для обучения, и зачастую их нужно размещать в одном месте,

01:06:49

ведь даже пропускная способность между

01:06:51

дата-центрами может повлиять на процесс.

01:06:53

То есть дополнительные ограничения есть уже на этом уровне, и это

01:06:57

критично, если ты хочешь обучать как можно более крупные модели.

01:07:01

Но с другой стороны, теперь, когда ИИ-системы

01:07:03

встроены в продукты и их используют миллиарды

01:07:05

людей по всему миру, огромное количество

01:07:08

вычислений становится нужно уже на этапе инференса.

01:07:10

А кроме того, появились так называемые «мыслящие

01:07:13

системы» - новая парадигма прошлого года,

01:07:15

где модели становятс умнее, чем больше времени

01:07:18

на инференс им даётся во время тестирования.

01:07:20

Всё это требует огромных вычислительных

01:07:23

ресурсов, и я не вижу тенденции к замедлению.

01:07:26

Наоборот, по мере того как ИИ-системы становятся лучше, они будут

01:07:29

приносить больше пользы, и потребность в них будет только расти.

01:07:31

Так что нагрузка идёт не только со стороны обучения.

01:07:34

Обучение вообще может со временем оказаться меньшей

01:07:38

частью от общего объёма необходимых вычислений.

01:07:42

Лекс: Да, это своего рода почти мем,

01:07:46

который заключается в успехе VEO 3.

01:07:50

Люди уже высмеивают тот факт, что чем успешнее

01:07:53

она становится, тем больше потеют серверы.

01:07:55

- Демис: Да. - Лекс: Вывод.

01:07:56

Демис: Да, да, точно.

01:07:58

Мы сделали небольшое видео,

01:07:59

как жарим яичницу на серверах.

01:08:01

Всё верно, и нам предстоит в этом разобраться.

01:08:06

Впереди много интересных аппаратных инноваций.

01:08:09

У нас есть производство TPU, и мы сфокусированы на выводе - чипах

01:08:12

только для вывода и потенциальное повышение их эффективности.

01:08:15

Мы также очень заинтересованы в создании систем ИИ,

01:08:18

которые поучаствовали бы в использовании энергии.

01:08:21

Улучшение эффективности систем охлаждения в дата-центрах, оптимизация

01:08:26

энергосети, а в будущем и работа над

01:08:29

удержанием плазмы в термоядерных реакторах.

01:08:32

Мы много работали вместе с Commonwealth

01:08:35

Fusion, и может когда-то спроектируем реактор.

01:08:38

А ещё, одно из самых захватывающих направлений

01:08:40

- это проектирование новых материалов.

01:08:42

Новые типы материалов для солнечных панелей, сверхпроводники

01:08:45

при комнатной температуре - я вообще давно о них мечтаю.

01:08:48

И, конечно, оптимальные аккумуляторы.

01:08:51

Решение хотя бы одной из этих задач стало бы

01:08:54

настоящей революцией для климата и энергопотребления.

01:08:58

И, скорее всего, мы уже близки.

01:09:00

Думаю, в ближайшие пять лет появятся ИИ-системы,

01:09:02

которые действительно смогут помочь с этими проблемами.

01:09:05

Лекс: Извини за нелепый вопрос, но если бы пришлось спорить, какой

01:09:09

источник энергии будет основным через 20-30-40 лет, что бы ты выбрал?

01:09:13

Ядерный синтез?

01:09:15

Демис: Я бы поставил на термоядерный

01:09:18

синтез и солнечную энергию.

01:09:20

Солнце - это же термоядерный реактор в небе, и

01:09:24

проблема там только в аккумуляторах и передаче.

01:09:28

Так что нам просто нужны более эффективные материалы,

01:09:32

может даже в космосе, что-то типа сфер Дайсона.

01:09:36

Ну и термоядерный синтез.

01:09:41

Я думаю, это выполнимо, если у нас будет правильный

01:09:44

дизайн реактора, и мы можем контролировать плазму.

01:09:48

Я полагаю, всё это выполнимо.

01:09:50

Так что у нас, вероятно, будет два основных источника возобновляемой,

01:09:54

чистой, почти бесплатной или условно бесплатной энергии.

01:09:58

Лекс: Какой интересный век.

01:09:59

Если мы с тобой отправились в будущее на сто лет вперёд, ты бы

01:10:05

удивился, если бы мы прошли цивилизацию

01:10:09

типа один по шкале Кардашёва?

01:10:11

Демис: Я бы не удивился,

01:10:13

если речь идет про срок в сто лет.

01:10:16

Очевидно, что если мы решим энергетические проблемы

01:10:19

одним из способов,

01:10:20

которые мы только что обсудили - синтезом или солнечной энергией,

01:10:25

то энергия по сути будет бесплатная, возобновляемая

01:10:28

и чистая, а это решает целую кучу других проблем.

01:10:32

Например, исчезнет проблема доступа к воде,

01:10:34

потому что опреснение становится доступным.

01:10:37

Технология есть, просто это очень дорого.

01:10:39

Только богатые страны, такие как Сингапур и Израиль её сейчас

01:10:43

используют, а если бы было дешево, то все прибрежные страны могли бы.

01:10:49

Плюс, было бы неограниченное

01:10:50

ракетное топливо.

01:10:51

Можно было бы разделить морскую воду на водород и

01:10:54

кислород, используя энергию, и получить ракетное топливо.

01:10:57

Вместе с удивительными многоразовыми

01:11:00

ракетами Илона, можно наладить постоянное

01:11:04

транспортное сообщение с космосом, а это открывает новые ресурсы и области.

01:11:10

Появится добыча сырья на астероидах.

01:11:13

И люди наконец отправятся к

01:11:14

звёздам - вот о чём я мечтаю.

01:11:16

Как Карл Саган, и его идея привнести

01:11:19

сознание во вселенную, пробудить её.

01:11:22

Я думаю, человеческая цивилизация сможет это сделать, если мы

01:11:26

сделаем всё правильно с ИИ, и решим с его помощью эти задачи.

01:11:30

Лекс: Интересно, как бы это выглядело

01:11:33

с точки зрения космического туриста.

01:11:35

Земля, скорее всего, будет очень заметна.

01:11:37

Потому что если решить проблему энергии,

01:11:39

вокруг наверняка будет летать много ракет.

01:11:41

В космосе, прямо как тут, в Лондоне, будут пробки.

01:11:46

Вокруг куча ракет.

01:11:48

А еще, вероятно, будет какой-то парящий в

01:11:51

космосе источник энергии, потенциально солнечный.

01:11:55

Земля выглядело бы более технологичной.

01:12:01

И мощь этой энергии можно было бы

01:12:02

использовать, чтобы сохранить природные...

01:12:05

Демис: Да.

01:12:06

- Лекс: Тропические леса. - Демис: Именно.

01:12:07

Потому что впервые в истории человечества

01:12:11

мы бы не были ограничены ресурсами.

01:12:13

Это могло бы ознаменовать удивительную

01:12:16

новую эру для человечества.

01:12:17

Это больше не игра с нулевой суммой: у меня есть земля, а у

01:12:22

тебя нет, или если у тигров есть их лес, то местные не могут...

01:12:27

А куда им деваться?

01:12:28

Я думаю, это очень поможет.

01:12:30

Это не решит все проблемы, у людей остаются

01:12:33

и другие слабости, и это их не исправит.

01:12:36

Но по крайней мере, устранит одну из самых больших проблем -

01:12:40

дефицит ресурсов, включая земельных, материальных и энергетических.

01:12:45

И я и другие люди иногда называем это эрой радикального

01:12:49

изобилия, в которую ресурсов будет достаточно всем.

01:12:53

Конечно, важно убедиться, что эти ресурсы распределяются

01:12:57

справедливо, и всё общество получает от них выгоду.

01:13:00

Лекс: Есть что-то в человеческой природе

01:13:05

такое, как в Борате: “Мой сосед ищет проблемы”.

01:13:10

Мы конфликтные.

01:13:12

Я тут узнал, что игры, даже в древности,

01:13:17

служили способом удержать людей от войны.

01:13:23

Может быть, мы сможем создавать всё более сложные видеоигры, которые

01:13:31

будут нас затягивать, и компенсировать желание вступать в конфликты.

01:13:38

Помогут нам избегать реальных войн, которые будут

01:13:42

вестись со всё более продвинутыми технологиями.

01:13:46

Мы ведь давно уже прошли точку, после которой наше

01:13:49

оружие способно уничтожить всю человеческую цивилизацию.

01:13:52

Уже нельзя конфликтовать с соседями,

01:13:57

лучше просто сыграть партию в шахматы.

01:14:03

- Демис: Или в футбол. - Лекс: Или в футбол.

01:14:04

Лекс: Да.

01:14:05

Демис: Мне кажется, что современный спорт...

01:14:08

Я обожаю футбол, люблю его

01:14:10

смотреть, и сам раньше много играл.

01:14:13

В нём есть что-то очень первобытное, племенное.

01:14:17

И, как мне кажется, он помогает направить человеческую

01:14:21

потребность принадлежать к какой-то группе в позитивное русло.

01:14:26

В развлекательной, здоровой форме, а не разрушительной.

01:14:31

Это что-то конструктивное.

01:14:33

Почему игры так хороши для детей, те же шахматы к

01:14:38

примеру - это прекрасные маленькие симуляции мира.

01:14:42

Это же и правда симуляции, упрощенные

01:14:44

версии какой-то реальной ситуации.

01:14:46

Что покер, что Го или шахматы, дипломатия

01:14:49

- это всё разные аспекты реального мира.

01:14:53

Игры позволяют практиковать решения.

01:14:55

Как часто выдается возможно попрактиковать

01:14:58

принятие очень важного в жизни решения?

01:15:00

Куда пойти работать, в какой пойти университет?

01:15:03

Мы в жизни сталкиваемся с десятком ключевых

01:15:06

решений, и в них важно не ошибиться.

01:15:09

А игры - это своего рода безопасная, повторяемая

01:15:12

среда, в которой можно отточить навык принятия решений.

01:15:16

Плюс, у них есть дополнительное преимущество - они позволяют

01:15:20

направить энергию в более творческие и конструктивные занятия.

01:15:24

Лекс: А еще важно

01:15:25

попрактиковать победу и поражение.

01:15:28

Демис: Верно.

01:15:29

Лекс: Поражение это же...

01:15:30

Я поэтому люблю игры и такие занятия, как бразильское

01:15:33

джиу-джитсу: тебе могут надрать задницу в безопасной среде,

01:15:38

и раз за разом это напоминает тебе о физике,

01:15:41

о том, как работает мир, о том, что иногда

01:15:43

ты проигрываешь, иногда выигрываешь, но

01:15:46

всё равно сохраняешь дружеские отношения.

01:15:48

Вообще, нам людям очень сложно

01:15:51

понять это чувство поражения.

01:15:54

Но проигрыш - это просто часть

01:15:57

жизни, причем важная часть.

01:16:00

Демис: Как я это вижу: в боевых искусствах, как и в шахматах

01:16:04

многое связано с самосовершенствованием, самопознанием.

01:16:08

Дело не в том, чтобы победить против кого-то другого, а

01:16:12

в том, чтобы максимизировать свой собственный потенциал.

01:16:16

Если ты поступаешь здоровым образом, ты

01:16:18

учишься использовать и победу и поражение.

01:16:20

Не увлекайся победой, не

01:16:22

думай, что ты лучший в мире.

01:16:24

Поражения заземляют, дают понимание, что есть

01:16:27

люди, которым еще есть чему тебя научить.

01:16:29

Уверен, это есть в боевых искусствах,

01:16:35

и меня так же обучали шахматам.

01:16:39

Конечно, игра может быть для тебя и сложной,

01:16:42

и важной, и естественно хочется выиграть.

01:16:44

Но нужно научиться справляться с неудачами здоровым

01:16:49

способом, переводить

01:16:51

чувство проигрыша в конструктивное русло - в следующий раз я стану лучше.

01:16:57

Лекс: Есть в этом какой-то источник счастья,

01:17:00

источник смысла - когда становишься лучше.

01:17:02

Дело не в победе или поражении.

01:17:04

Демис: Да, мастерство.

01:17:05

Ничто не приносит такого удовлетворения, как способность

01:17:08

сделать что-то, что ты раньше сделать не мог.

01:17:10

И опять же, игры, физические и интеллектуальные виды спорта

01:17:15

тем и прекрасны, что позволяют тебе измерить прогресс.

01:17:19

Лекс: Наверное поэтому я люблю

01:17:22

РПГ - там есть прокачка древа навыков.

01:17:26

Это же буквально это источник

01:17:28

смысла для нас, людей...

01:17:29

Демис: Да, мы прямо

01:17:31

зависимы от прокачки скиллов.

01:17:33

Может быть, поэтому мы и придумали такие

01:17:37

игры - мы сами системы с потенциалом роста.

01:17:41

Лекс: Да.

01:17:42

Было бы довольно грустно,

01:17:43

если бы у нас не было механизма…

01:17:45

Демис: Цветные пояса - мы же везде это внедряем.

01:17:50

Лекс: И я не хочу это отвергать.

01:17:52

Это источник глубокого смысла для людей.

01:17:54

Итак, с точки зрения бизнеса и лидерства,

01:17:58

Google за прошлый год совершил невозможное.

01:18:02

Пожалуй, справедливо будет сказать, что год назад

01:18:06

LLM от Google - Gemini 1.5 проигрывал гонку.

01:18:10

А теперь выигрывает её с Gemini 2.5.

01:18:12

Ты взял вожжи и возглавил это направление.

01:18:15

Что потребовалось, чтобы перейти от

01:18:18

“поражения” к “победе” всего за год?

01:18:22

Демис: Ну, во-первых, у нас просто невероятная

01:18:25

команда, которую возглавляют Корай, Джефф Дин и Ориоль.

01:18:28

Мы собрали команду мирового

01:18:30

уровня, и они работают над Gemini.

01:18:32

Такое нельзя сделать без лучших в своем деле.

01:18:36

Вычислительные мощности, конечно, тоже важны.

01:18:39

А еще мы создали культуру исследований.

01:18:42

Мы объединили разные команды Google - Google

01:18:46

Brain - команду мирового класса, старый DeepMind,

01:18:51

собрали лучших людей и лучшие идеи, чтобы

01:18:55

создать самую лучшую систему из возможных.

01:18:59

Было нелегко, но мы все очень конкурентоспособны,

01:19:03

и любим исследования, так что вышло весело.

01:19:07

И приятно наблюдать за нашей траекторией - мы довольны тем, чего

01:19:12

нам удалось достичь, но самое важное - это скорость прогресса.

01:19:17

Посмотри где мы были два года назад,

01:19:19

где были год назад и где мы сейчас.

01:19:22

Мы называем это неумолимым прогрессом,

01:19:25

наряду с неумолимым, и успешным внедрением.

01:19:29

Вообще, во всей области, всей

01:19:31

сфере ИИ очень высокая конкуренция.

01:19:34

В ней оперируют величайшие предприниматели, лидеры, и компании -

01:19:39

все конкурируют между собой, потому что поняли, насколько важен ИИ.

01:19:43

Нам приятно наблюдать этот прогресс.

01:19:47

Лекс: Google - гигантская компания.

01:19:49

Можешь рассказать о динамике, которая

01:19:52

неизбежно появляется в таких условиях?

01:19:56

Бюрократия, осторожность, встречи, менеджеры?

01:20:02

С лидерской точки зрения, как обойти

01:20:05

все эти препятствия, чтобы внедрить...

01:20:07

Количество продуктов, связанных с Gemini, которые

01:20:11

вы внедрили за прошлый год - просто бешеное.

01:20:14

Демис: Скажи!

01:20:15

Да!

01:20:16

Вот как выглядит неумолимость.

01:20:19

Конечно, в любой большой компании в итоге появляется

01:20:24

много уровней управления, такова природа бизнеса.

01:20:30

Но я всё ещё управляю так же, как и

01:20:32

в старом DeepMind - будто это стартап.

01:20:35

Большой, но всё же стартап.

01:20:37

Так же мы работаем с Google DeepMind.

01:20:40

Мы действуем с решительностью и энергией, которую можно наблюдать

01:20:44

в небольших организациях, и пытаемся взять лучшее из обоих миров.

01:20:48

У нас есть миллиарды пользователей и невероятные продукты, в

01:20:53

которые можно внедрить наш ИИ и наши исследования, и это потрясающе.

01:20:58

В мире не так уж много компаний, где это

01:21:01

доступно - с одной стороны проводить исследования

01:21:03

мирового класса, а с другой тут же внедрять

01:21:06

результаты и улучшать жизни миллиардов людей.

01:21:08

Удивительная комбинация.

01:21:10

Мы постоянно боремся с бюрократией, чтобы дать процветать

01:21:14

исследовательской культуре и культуре неумолимого внедрения.

01:21:19

Мы держим неплохой баланс, и при этом, как большая компания,

01:21:25

несем ответственность за огромное количество продуктов.

01:21:30

Лекс: Забавно, что ты упомянул миллиарды людей.

01:21:33

Я тут общался с Ирвингом Финкелем в

01:21:37

Британском музее, блестящий человек.

01:21:40

Мировой эксперт по клинописи - это

01:21:43

древняя письменность на табличках.

01:21:46

Он не знает о ChatGPT или Gemini, он даже не знает об

01:21:51

ИИ, и впервые он столкнулся с ним в режиме ИИ в Google.

01:21:57

Демис: Ага.

01:21:58

Лекс: Он такой: “Это ты об этом говоришь?

01:22:00

Вот режим ИИ?”

01:22:01

Это говорит о том, что

01:22:04

многие ничего не знают об ИИ.

01:22:08

Демис: Да, знаю.

01:22:09

Это забавно. Если сидишь в X или Twitter...

01:22:12

Ну моя лента, по крайней мере, вся забита ИИ.

01:22:14

И в определенных местах, типа кремниевой

01:22:17

долины, все только и говорят, что об ИИ.

01:22:20

Но большАя часть обычного

01:22:22

мира с ним еще не столкнулась.

01:22:24

Лекс: Стать их первым взаимодействием

01:22:26

с ИИ - это большая ответственность.

01:22:28

В сельской местности в Индии, или еще где-то...

01:22:33

Демис: Да, опыт должен быть как можно лучше.

01:22:35

И зачастую это всё происходит “под капотом”

01:22:38

- ИИ просто улучшает работу поиска или карт.

01:22:41

В идеале, опыт для людей должен быть бесшовным.

01:22:45

Это просто новая технология, которая делает

01:22:48

их жизнь более продуктивной и помогает им.

01:22:50

Лекс: Куча инженеров и людей из продуктовых команд Gemini чрезвычайно

01:22:54

высоко отзывались о тебе в контексте, которого я будто даже не ожидал.

01:22:58

Я тебя воспринимаю как ученого, человека,

01:23:01

занятого большими исследовательскими задачами.

01:23:05

Но они говорят, что ты продуктовый эксперт.

01:23:08

Ты знаешь, как создать то, что многие

01:23:10

будут использовать и получать удовольствие.

01:23:12

Можешь рассказать, что нужно, чтобы создать продукт на

01:23:15

основе ИИ, который будет приносить людям удовлетворение?

01:23:18

Демис: Ну, это все отсылки к тем временам, когда я занимался

01:23:21

геймдизайном и разрабатывал игры для миллионов геймеров.

01:23:24

Люди об этом забывают, но у меня был опыт с передовой

01:23:28

технологией в продукте - в девяностых это были игры.

01:23:31

Я на самом деле люблю комбинацию передовых исследований

01:23:36

и их применения в продукте для создания нового опыта.

01:23:41

Полагаю, это навык, требующий воображения, понимания как выглядит

01:23:46

пользование продуктом, и хороший вкус - о чем мы и говорили.

01:23:51

То же самое, что полезно в науке,

01:23:54

полезно и в дизайне продукта.

01:23:57

Я просто всегда был мультидисциплинарным

01:24:01

человеком, и не вижу

01:24:03

границ между искусством и наукой или продуктом и исследованиями.

01:24:09

Для меня это континуум.

01:24:10

Мне нравится работать над передовыми продуктами.

01:24:13

Я бы не хотел держать

01:24:14

передовую технологию под капотом.

01:24:16

Обычные продукты меня бы так не вдохновляли.

01:24:20

А тут нужна изобретательность,

01:24:22

творчество, способности.

01:24:23

Лекс: А что конкретно ты для себя понял,

01:24:26

работая с Gemini, даже со стороны LLM?

01:24:29

Это ведь совсем не похоже на привычный опыт:

01:24:33

интерфейс, структура, компромисс между задержкой и…

01:24:37

как именно показывать результат пользователю, сколько ждать

01:24:42

и как эту паузу обосновать, плюс способности к рассуждению.

01:24:46

Всё это очень интересно, потому что, как ты сказал, мы сейчас на самом

01:24:49

рубеже, и до конца ещё не понимаем, как правильно всё это подавать.

01:24:52

Есть ли какие-то конкретные

01:24:54

открытия, которые ты для себя сделал?

01:24:56

Демис: Эта сфера быстро развивается, мы

01:24:58

постоянно проводим переоценку происходящего.

01:25:01

Но на данный момент мы идем путём упрощения, будь

01:25:05

то интерфейс или то, что строится поверх модели.

01:25:09

Нам как будто не стоит ей мешать.

01:25:11

Поезд модели идёт по рельсам,

01:25:13

и невероятно быстро улучшается.

01:25:15

Это тот неумолимый прогресс,

01:25:16

о котором мы говорили ранее.

01:25:18

Между 2.5 и 1.5 огромная пропасть, и мы ожидаем

01:25:21

увидеть такой же прогресс в будущих версиях.

01:25:24

Модели становятся более способными.

01:25:26

Сегодня дизайн интересен тем, что проектировать нужно

01:25:29

исходя не из того, на что продукты, ориентированные на ИИ,

01:25:33

способны сейчас, а из того, на

01:25:35

что они будут способны через год.

01:25:37

Нужно быть технически подкованным в продукте

01:25:41

человеком, чтобы у тебя было интуитивное понимание -

01:25:46

да, то, о чем я сейчас мечтаю, невозможно, но если исследования будут

01:25:50

следовать графику, будет ли это реализовано через полгода или год?

01:25:55

Нужно как бы уметь перехватывать направление, в котором стремительно

01:25:59

развивается технология, ведь всё время появляются новые возможности,

01:26:02

о которых мы раньше и не догадывались, и они

01:26:05

позволяют реализовывать новые типы исследований.

01:26:07

Например, у нас теперь есть

01:26:09

генерация видео, и что с этим делать?

01:26:11

Мультимодальность, опять.

01:26:12

Вот у меня вопрос: останутся ли интерфейсы такими,

01:26:16

какими мы их видим сегодня, в виде текстовых чатов?

01:26:19

Маловероятно, если задуматься о

01:26:22

возможностях мультимодальных систем.

01:26:25

Разве нам не стоит двигаться ближе к фильму

01:26:28

“Особое мнение”, к коллаборации с системой?

01:26:32

Сейчас всё довольно ограниченно.

01:26:34

Думаю, мы уже через пару лет будем оглядываться на современные

01:26:38

интерфейсы, продукты и системы как на нечто архаичное.

01:26:41

Мне кажется, есть ещё очень много пространства для инноваций

01:26:44

не только в исследованиях, но и в продуктовом дизайне.

01:26:47

Лекс: Вне камер мы обсуждали клавиатуру,

01:26:50

и как, когда и насколько мы отойдем от

01:26:54

набора текста и перейдём к аудио как

01:26:56

основному способу взаимодействия с машинами?

01:27:00

Демис: Да, у набора текста очень низкая пропускная

01:27:03

способность, даже если ты очень быстро печатаешь.

01:27:06

Думаю, нам придётся начать использовать другие

01:27:10

устройства - может умные очки, наушники,

01:27:13

а в дальнейшем, может, и какие-то нейронные устройства, чтобы

01:27:19

увеличить пропускную способность ввода и вывода стократно.

01:27:24

Лекс: Я думаю, дизайн интерфейса -

01:27:26

это недооценённая форма искусства.

01:27:29

Потому что невозможно разблокировать силу

01:27:32

интеллекта, если нет правильного интерфейса.

01:27:35

Вся мощь интеллекта

01:27:36

спрятана за его интерфейсом.

01:27:38

Это очень интересный вопрос, и не

01:27:42

мешать системе - это тоже искусство.

01:27:46

Демис: Да.

01:27:47

Об этом постоянно говорил Стив Джобс.

01:27:50

Мы хотим простоты, красоты и элегантности.

01:27:53

И на мой взгляд, это еще ни у кого не получилось.

01:27:56

Мне бы хотелось нас туда привести.

01:27:58

Опять же, я все возвращаюсь к Го -

01:28:00

это самая элегантная, красивая игра.

01:28:02

Можно ли сделать интерфейс столь же прекрасным?

01:28:05

На самом деле, мне кажется мы движемся в

01:28:08

сторону интерфейсов, сгенерированных ИИ.

01:28:10

Они, вероятно, будут персонализированы под тебя, и соответствовать

01:28:14

твоей эстетике, твоим ощущениям, тому, как работает твой мозг.

01:28:17

ИИ будет генерировать их в зависимости от задачи.

01:28:22

Мне кажется, мы движемся в этом направлении.

01:28:25

Лекс: Да.

01:28:26

Потому что некоторые - опытные пользователи - хотят видеть

01:28:29

каждый параметр

01:28:30

на экране, возможно с навигацией на базе клавиатуры, шорткаты для всего.

01:28:35

А некоторым нравится минимализм.

01:28:37

Демис: Скройте всё.

01:28:38

Да, точно.

01:28:39

Лекс: Да.

01:28:40

Я рад, что у тебя тоже есть режим Стива Джобса.

01:28:42

Режим Эйнштейна, режим Стива Джобса.

01:28:45

Это здорово.

01:28:47

Попробую тебя подловить, чтобы получить

01:28:49

ответ на вопрос: когда выйдет Gemini 3?

01:28:52

До или после GTA 6?

01:28:54

Мир ждёт и то, и другое.

01:28:56

И что нужно, чтобы перейти от 2.5 к 3.0?

01:29:01

Кажется, у 2.5 было много релизов, которые

01:29:04

уже показывают скачки в производительности.

01:29:07

Что вообще значит переход к новой версии?

01:29:10

Дело в производительности?

01:29:11

Или в совершенно ином опыте пользования?

01:29:16

Демис: Да, у нас это устроено так: с

01:29:19

каждой новой версией мы стараемся...

01:29:22

На полный цикл запуска и превращения новой

01:29:27

версии в продукт уходит примерно полгода.

01:29:32

За это время появляется множество

01:29:34

новых идей, итераций и исследований.

01:29:37

Представь, сколько рождается всяких идей с

01:29:41

точки зрения архитектуры и данных за пол года.

01:29:45

Мы всё это собираем, тестируем, что действительно

01:29:50

работает, и включаем в следующую итерацию.

01:29:55

А потом уже начинается “путь

01:29:57

героя” - тренировочный запуск.

01:30:00

Этот этап мы внимательно отслеживаем.

01:30:04

После предобучения идёт постобучение,

01:30:07

в том числе патчи и тонкая настройка.

01:30:09

Это важный экспериментальный этап, на котором

01:30:12

тоже можно получить серьёзный прирост.

01:30:14

Версии моделей обычно указывают

01:30:16

на базовую, предобученную модель.

01:30:19

А промежуточные версии вроде 2.5 - это чаще всего патчи или

01:30:26

результаты постобучения, основанные на той же архитектуре.

01:30:32

А ещё у нас есть разные размеры

01:30:35

моделей - Pro, Flash, Flash light.

01:30:37

Они часто создаются методом дистилляции

01:30:39

самой большой версии, скажем, Flash от Pro.

01:30:42

Это даёт нам целую линейку моделей на выбор.

01:30:46

Если ты разработчик, ты можешь сам выбрать, что тебе

01:30:48

важнее - производительность, скорость или стоимость.

01:30:51

Мы думаем об этом как о границе Парето, где по одной оси у

01:30:57

тебя производительность, а по другой - стоимость или задержка.

01:31:04

Мы стараемся, чтобы наши модели в

01:31:06

совокупности покрывали всю эту границу.

01:31:08

То есть, как бы пользователи или

01:31:10

разработчики ни хотели сбалансировать ресурсы

01:31:13

и результат, у нас должна быть модель,

01:31:15

которая подойдёт именно под их условия.

01:31:17

Лекс: То есть за изменениями версий стоит “путь

01:31:23

героя”, и сама сложность упаковки модели в продукт.

01:31:30

Затем дистилляция версий вдоль границы Парето.

01:31:34

И на каждом этапе появляются идеи

01:31:36

крутых продуктов, как побочные квесты.

01:31:39

Демис: Именно.

01:31:41

Лекс: Но слишком много побочных квестов брать нельзя,

01:31:44

иначе будет миллион версий и миллион продуктов.

01:31:46

Демис: Да.

01:31:47

Лекс: Но в то же время идеи-то крутые.

01:31:50

Вот тот же VEO - это очень круто.

01:31:53

Как его вписать в общую канву?

01:31:54

Демис: Да, точно.

01:31:55

Именно.

01:31:56

И при этом у нас постоянно идёт процесс обратной

01:31:59

интеграции - мы «поднимаем наверх» идеи,

01:32:02

появившиеся на уровне продуктовых решений,

01:32:04

постобучения и даже ещё дальше по цепочке.

01:32:07

Всё это возвращается в основную модель и

01:32:10

используется при следующем тренировочном запуске.

01:32:13

Так что основная ветка Gemini становится всё более

01:32:17

универсальной и со временем ведет к сильному ИИ.

01:32:20

Лекс: Один путь героя за другим.

01:32:21

Демис: Да, несколько путей героя спустя.

01:32:23

Лекс: Ага...

01:32:24

А когда вы выпускаете новые версии, да и вообще с каждой версией, насколько,

01:32:29

по-твоему, полезны бенчмарки, если речь о

01:32:31

демонстрации реальной производительности?

01:32:34

Или они мешают?

01:32:36

Демис: Они нужны, но важно не

01:32:38

переоптимизироваться под них.

01:32:40

То есть бенчмарки не должны становиться самоцелью.

01:32:43

Вот, например, LMArena - он раньше назывался LEMSYS, органично

01:32:47

стал одним из главных способов тестирования чат-ботов.

01:32:51

Помимо него, конечно, есть множество академических

01:32:54

бенчмарков, которые проверяют математику,

01:32:57

программирование, общие языковые способности,

01:32:59

знания по естественным наукам и так далее.

01:33:01

Плюс есть наши собственные внутренние

01:33:03

бенчмарки, которые важны для нас.

01:33:05

По сути, это задача по

01:33:06

оптимизации с кучей критериев.

01:33:08

Мы стремимся не к модели с экспертностью в одной области, а

01:33:11

к универсальности, к системам, сильным по всем направлениям.

01:33:14

Поэтому мы делаем улучшения по принципу

01:33:17

«без сожалений» - скажем, улучшаем

01:33:19

программирование, но так, чтобы не ухудшить

01:33:21

производительность в других областях.

01:33:23

А это сложно, потому что, конечно, можно просто добавить

01:33:27

больше данных по программированию или, например, по играм,

01:33:31

но а вдруг тогда пострадает качество

01:33:34

выполнения языковых или переводческих задач?

01:33:37

Они тоже важны.

01:33:39

Поэтому мы постоянно отслеживаем

01:33:42

всё более широкий набор бенчмарков.

01:33:46

А ещё, когда модель становится частью продукта, мы начинаем учитывать

01:33:50

и реальное поведение пользователей - статистику использования,

01:33:53

сигналы от конечных пользователей, будь то программисты

01:33:57

или просто люди, которые пользуются интерфейсом чата.

01:34:00

Лекс: Да, измерять ведь нужно полезность,

01:34:02

но её так трудно преобразовать в число.

01:34:05

Это ведь по сути «вайб-бенчмарки» - ощущения

01:34:08

кучи пользователей, и с этим сложно работать.

01:34:11

Меня бы это даже пугало: ты можешь создать гораздо более умную

01:34:16

модель, но по каким-то ощущениям она как будто не работает.

01:34:21

Это страшно.

01:34:23

Плюс, как ты и сказал - она должна

01:34:26

быть полезной во множестве областей.

01:34:29

Ты вот радуешься, потому что она начала решать задачи

01:34:32

по программированию, которые ей раньше были не по зубам…

01:34:35

а потом оказывается, что у неё стало хуже с поэзией.

01:34:38

Не знаю…

01:34:39

Это стресс.

01:34:40

Как это вообще..

01:34:42

- Демис: Сбалансировать. - Лекс: Сбалансировать.

01:34:44

И ведь доверять бенчмаркам нельзя, нужно

01:34:46

опираться на конечных пользователей.

01:34:48

Демис: А потом начинают играть роль ещё более

01:34:52

тонкие, эфемерные вещи: например, “личность” системы.

01:34:57

Она многословная или лаконичная?

01:35:00

С чувством юмора?

01:35:02

Ведь разным людям нравится разное.

01:35:04

Это очень интересно, почти на стыке с

01:35:07

психологией или исследованиями личности.

01:35:10

Я занимался этим в аспирантуре - исследовал

01:35:12

«большую пятёрку» личностных качеств.

01:35:14

Какими мы вообще хотим видеть ИИ-системы?

01:35:16

У разных людей будут разные предпочтения.

01:35:19

Это совершенно новые продуктовые задачи, с которыми, мне кажется, никто

01:35:23

ещё толком не сталкивался, но нам придётся очень

01:35:25

быстро начать их решать.

01:35:27

Лекс: Это невероятно увлекательная

01:35:29

область - разработка «характера» системы.

01:35:31

И в этом процессе она как бы становится зеркалом

01:35:35

для нас самих: какие черты нам вообще нравятся?

01:35:38

Промпт инжиниринг многое позволяет контролировать,

01:35:42

задавать стиль, но сможет ли сам продукт

01:35:45

упростить выбор разных стилей взаимодействия,

01:35:48

«персонажей», с которыми ты общаешься?

01:35:51

Демис: Да, именно.

01:35:53

Лекс: Какова вероятность того,

01:35:55

что Google DeepMind выиграет?

01:35:56

Демис: Ну, я не оперирую понятиями побед и поражений,

01:36:01

учитывая, насколько значимо то, что мы строим.

01:36:04

Забавно, что я стараюсь не рассматривать это как игру или

01:36:07

соревнование, хотя склонен размышлять такими категориями.

01:36:10

На мой взгляд, все мы или те из нас, кто находится на острие событий,

01:36:15

несем ответственность за то, чтобы направлять эту технологию -

01:36:19

её можно использовать как

01:36:21

силу добра, но она несет и риски.

01:36:23

Нам нужно безопасно внедрить

01:36:24

её в мир на благо человечества.

01:36:26

Именно об этом я всегда

01:36:28

мечтал, и этим мы и занимаемся.

01:36:32

Я надеюсь, что важность этого подхода поддержит и международное сообщество,

01:36:38

по мере того, как мы будем приближаться к появлению сильного ИИ.

01:36:43

Лекс: Я согласен. Красиво сказано.

01:36:45

Ты сказал, что ты общаешься и находишься в хороших

01:36:48

отношениях с руководителями некоторых лабораторий.

01:36:52

По мере того как конкуренция накаляется,

01:36:55

насколько трудно поддерживать эти отношения?

01:36:58

Демис: Пока всё нормально.

01:37:00

Я горжусь тем, что умею

01:37:02

сотрудничать, я командный человек.

01:37:05

Исследования - это командная

01:37:06

работа, наука - это командная работа.

01:37:08

В конечном итоге всё это идёт на благо человечества: если мы излечим

01:37:12

тяжёлые болезни, найдем потрясающие лекарства -

01:37:14

это чистая победа для всех.

01:37:16

То же самое и с энергией, и с другими задачами,

01:37:19

которые мне хочется решать с помощью ИИ.

01:37:21

Я просто хочу, чтобы эта технология существовала

01:37:24

в мире, использовалась по назначению

01:37:27

и чтобы её плоды - прирост продуктивности и

01:37:30

пользы - разделили во имя всеобщего блага.

01:37:33

И я стараюсь поддерживать хорошие

01:37:35

отношения со всеми ведущими лабораториями.

01:37:37

Персонажи там, конечно, интересные.

01:37:39

Лекс: Ага.

01:37:40

Демис: В общем, у меня практически

01:37:42

со всеми хорошие отношения.

01:37:44

И особенно актуально это станет когда ситуация станет

01:37:48

серьезнее, чем сейчас - нужны будут каналы коммуникации,

01:37:52

чтобы облегчить сотрудничество или совместную работу,

01:37:56

если потребуется, особенно по вопросам безопасности.

01:38:00

Лекс: Я надеюсь на сотрудничество по вопросам с менее

01:38:04

высокими ставками, с целью поддержания дружеских отношений.

01:38:09

Например, интернету бы очень понравилось,

01:38:12

если бы вы с Илоном вместе сделали видеоигру.

01:38:16

Такие проекты сеют семена дружбы.

01:38:19

Плюс вы оба реально геймеры,

01:38:21

так что было бы весело...

01:38:23

Демис: Да, было бы потрясающе.

01:38:25

Мы кстати с ним это обсуждали, было бы здорово.

01:38:28

Я согласен, было бы хорошо начать побочные

01:38:32

проекты, в которых можно посотрудничать -

01:38:36

это беспроигрышный вариант для обеих сторон,

01:38:40

и прокачивает навык совместной работы.

01:38:44

Лекс: Я вообще вижу научные исследования как

01:38:47

такой побочный проект всего человечества.

01:38:49

И Google DeepMind в этом

01:38:50

плане делает большие успехи.

01:38:52

Мне бы хотелось, чтобы и другие лаборатории больше занимались наукой и

01:38:56

сотрудничали, ведь над большими научными

01:38:59

вопросами, кажется, проще работать сообща.

01:39:01

Демис: Полностью согласен.

01:39:03

Многие лаборатори говорят о науке, но, честно говоря, мне

01:39:06

кажется, что только мы активно используем ИИ в научных целях.

01:39:09

Именно поэтому такие проекты, как AlphaFold,

01:39:12

так важны лично для меня и для нашей

01:39:15

миссии в целом - чтобы показать, как

01:39:17

можно применять ИИ на благо человечества.

01:39:20

И мы создали отдельные компании, такие как Isomorphic, на базе AlphaFold,

01:39:24

для работы над открытием новых лекарств,

01:39:26

и дела у них идут очень хорошо.

01:39:28

Можно представить и другие системы типа AlphaFold, но уже в области

01:39:31

химии, которые помогут ускорить разработку новых препаратов.

01:39:35

Именно такие примеры, как мне кажется, мы и должны демонстрировать,

01:39:38

чтобы общество поняло: ИИ способен приносить колоссальную пользу.

01:39:42

Лекс: От всей души благодарю тебя за то, что ты двигаешь науку

01:39:46

вперёд - с серьёзностью, с азартом, и при этом скромностью.

01:39:49

Приятно наблюдать.

01:39:50

И то, что ты ещё говоришь про

01:39:51

равенство P и NP - это потрясающе.

01:39:53

Супер.

01:39:55

Кажется, что сейчас идёт

01:39:56

своего рода война за таланты.

01:39:59

Возможно, это отчасти мем.

01:40:00

Что ты думаешь о том, что Meta переманивает специалистов

01:40:05

огромными зарплатами, и вообще об этой гонке за кадрами?

01:40:09

Кстати, многие считают DeepMind отличным местом для передовых

01:40:14

исследований, как раз по тем причинам, о которых ты говорил: ваша культура.

01:40:21

Демис: Да.

01:40:22

Ну смотри, у Meta сейчас просто такая стратегия.

01:40:26

Но с моей точки зрения, реальные энтузиасты сильного ИИ - те,

01:40:31

кто по-настоящему верит в миссию, понимает её последствия,

01:40:35

и хорошие, и плохие, они, как и я, хотят

01:40:39

быть на передовой исследований, чтобы

01:40:43

влиять на развитие этой технологии и помогать безопасно внедрить её в мир.

01:40:50

А Meta сейчас на передовой не находится.

01:40:52

Возможно, у них получится туда вернуться, и наверное

01:40:55

с их точки зрения, то, что они делают - рационально.

01:40:58

Они отстают и должны как-то наверстать.

01:41:00

Но, как по мне, есть вещи поважнее денег.

01:41:03

Хотя, конечно, нужно платить людям рыночные

01:41:06

зарплаты, и эти ставки продолжают расти.

01:41:08

Я этого ожидал: всё больше лидеров компаний начинают

01:41:13

понимать то, что мне было очевидно последние тридцать лет -

01:41:17

сильный ИИ, вероятно, будет самой важной

01:41:20

технологией из всех изобретений человечества.

01:41:23

Так что в каком-то смысле такое поведение логично.

01:41:26

Но есть и другой, более глубокий уровень.

01:41:29

Сейчас ИИ-специалисты и так очень хорошо зарабатывают.

01:41:32

Я помню, как в 2010 году, когда мы только начинали, я пару

01:41:35

лет вообще зарплату не получал - денег просто не было.

01:41:38

Мы не могли привлечь средства.

01:41:39

Для сравнения, стажёрам сейчас платят столько,

01:41:42

сколько мы тогда подняли на первый раунд.

01:41:45

Это забавно.

01:41:46

Я ещё застал времена, когда приходилось работать бесплатно

01:41:49

и фактически самому платить, чтобы пройти стажировку.

01:41:52

А сейчас всё наоборот, но

01:41:53

это просто новая реальность.

01:41:56

Тем не менее, если говорить о будущем после сильного ИИ, когда будут решены,

01:42:00

скажем, задачи энергетики и так далее, какое значение будут иметь деньги?

01:42:04

Перед нами будут стоять более фундаментальные вопросы - как

01:42:08

устроена экономика, как функционируют компании в новом мире.

01:42:12

Так что, мне кажется, вопрос

01:42:15

зарплат сейчас второстепенный.

01:42:19

Лекс: Да, когда перед тобой настолько грандиозные

01:42:22

последствия.. и такие увлекательные научные задачи -

01:42:25

Демис: И все это, возможно, будет через несколько лет.

01:42:27

Лекс: С практической точки зрения, если говорить

01:42:31

о работе, и в частности работе программистов.

01:42:35

Кажется, что ИИ-системы сейчас очень хорошо

01:42:37

справляются с программированием и становятся все лучше.

01:42:40

Многие люди, которые зарабатывают программированием,

01:42:44

и любят свою работу, беспокоятся, что потеряют её.

01:42:47

Насколько, по-твоему, им стоит беспокоиться?

01:42:49

И как людям в этом мире программирования лучше приспособиться

01:42:54

к новой реальности и обеспечить себе выживание и процветание?

01:42:58

Демис: Интересно, что программирование - и

01:43:01

это, опять же, идёт вразрез с тем, что мы

01:43:03

думали раньше - оказалось не таким уж сложным

01:43:06

навыком, как считалось, по ряду причин.

01:43:08

Например, программирование и математика.

01:43:10

Для них можно сгенерировать много синтетических

01:43:13

данных и проверить, правильные они или нет.

01:43:15

Именно в силу природы таких задач проще

01:43:17

создавать синтетические датасеты для обучения.

01:43:20

И, конечно, это та область, которая нам интересна, мы же программисты, и

01:43:23

хочется, чтобы такие инструменты помогали

01:43:25

нам становиться быстрее и продуктивнее.

01:43:28

Я думаю, что в следующую эпоху, в ближайшие

01:43:30

пять-десять лет, мы обнаружим, что

01:43:32

люди, которые принимают эти технологии и

01:43:35

становятся с ними чуть ли не единым целым,

01:43:37

будь то в творческих или технических индустриях,

01:43:41

станут сверхчеловечески продуктивными.

01:43:43

Отличные программисты станут еще лучше,

01:43:45

они будут в десять раз лучше, чем сегодня.

01:43:47

За счет новых инструментов они смогут

01:43:52

использовать свои навыки на максимум.

01:43:56

Вот как я вижу следующий этап.

01:44:00

Да, нас ждет довольно много изменений,

01:44:02

и многие получат от этого выгоду.

01:44:05

Скажем, если программирование станет проще, оно станет

01:44:09

доступно гораздо большему числу креативных людей.

01:44:13

Но у лучших программистов всё

01:44:15

равно будет огромное преимущество.

01:44:18

В первую очередь в умении задавать архитектуру,

01:44:20

формулировать, что нужно построить.

01:44:21

Так что главный вопрос - как направлять ИИ-ассистентов так,

01:44:25

чтобы они были

01:44:26

действительно полезны, и как проверять,

01:44:28

насколько хорош код, который они генерируют.

01:44:30

У этого направления ещё очень большой потенциал,

01:44:34

как минимум на ближайшие несколько лет.

01:44:36

Лекс: Здесь несколько интересных моментов.

01:44:39

Во-первых, важно постоянно учиться всё лучше использовать эти инструменты,

01:44:46

чтобы не конкурировать с моделями, а развиваться вместе с ними.

01:44:52

Но, увы, так устроена жизнь: одни виды программирования могут

01:44:58

становиться особенно ценными, а другие, наоборот, терять в значимости.

01:45:04

Например, фронтенд веб дизайн, как ты и говорил,

01:45:11

может легче автоматизироваться с помощью ИИ.

01:45:18

А вот разработка игровых движков, сложная

01:45:21

бэкенд разработка или системы, работающие

01:45:25

в условиях высокой нагрузки - всё это,

01:45:28

наоборот, может стать особенно востребовано.

01:45:31

Просто сместится фокус того, где

01:45:33

именно будет нужна экспертиза человека.

01:45:35

Но это, конечно, пугает.

01:45:37

Демис: Да, думаю так и будет.

01:45:39

Всякий раз, когда происходит

01:45:41

масштабный сдвиг...

01:45:42

Мы уже это проходили, такое случалось и раньше: с появлением интернета,

01:45:46

мобильных технологий, а до этого во времена промышленной революции.

01:45:50

Сейчас мы снова вступаем в такой

01:45:52

период, когда всё сильно меняется.

01:45:54

Я думаю, появятся новые профессии, которых мы пока даже не

01:45:57

можем себе представить, так же, как это произошло с интернетом.

01:46:00

У кого-то окажутся нужные навыки, чтобы «оседлать

01:46:03

волну», их навыки станут невероятно ценными.

01:46:06

Но, возможно, многим придётся переучиваться,

01:46:08

адаптироваться, развивать свои нынешние навыки.

01:46:11

Пожалуй, самое сложное сейчас - это то, что влияние будет в 10

01:46:17

раз масштабнее, чем у промышленной революции, и в 10 раз быстрее.

01:46:24

То есть вместо ста лет - десять.

01:46:27

А в сумме эффект будет в сто раз мощнее.

01:46:31

Это серьёзный вызов для общества,

01:46:34

и надо уже сейчас об этом говорить.

01:46:37

Я призываю ведущих экономистов и философов начать обдумывать,

01:46:45

как всё это повлияет на общество и что с этим делать.

01:46:52

Вплоть до таких идей, как безусловный

01:46:56

базовый доход, когда рост продуктивности

01:47:00

распределяется в обществе, может быть, в виде сервисов и других благ.

01:47:08

А если ты хочешь чего-то большего, то идешь

01:47:12

получать уникальные навыки, которые сложно заменить.

01:47:16

Но базовый уровень обеспечивается всем.

01:47:19

Лекс: А если рассматривать государство как технологию, то возникают

01:47:22

интересные вопросы не только в области экономики, но и в политике.

01:47:26

Как спроектировать систему, которая будет

01:47:31

адекватно реагировать на быстро меняющиеся времена?

01:47:37

Как сделать так, чтобы она отражала боль, которую испытывают разные группы

01:47:41

людей, и умела перераспределять ресурсы так, чтобы учитывать эту боль,

01:47:45

и чтобы в ней отражались и надежды, и

01:47:48

страхи людей, и не привести к расколу?

01:47:50

Проблема в том, что политики хорошо умеют

01:47:53

подливать масло в огонь, использовать раскол,

01:47:57

чтобы победить на выборах: они рисуют образ

01:48:00

«другого», чужого, и говорят, что он зло.

01:48:03

А это, как по мне, скорее мешает использовать

01:48:07

быстро развивающиеся технологии во благо мира.

01:48:12

Поэтому, если считать политическую систему тоже

01:48:16

технологией, нам нужно срочно улучшать и её.

01:48:19

Демис: Однозначно.

01:48:20

Думаю, нам понадобятся новые структуры управления, возможно,

01:48:23

целые институты, которые помогут пройти этот переход.

01:48:26

Политическая философия и политология

01:48:29

будут играть ключевую роль.

01:48:32

Но главное, с чего нужно начать -

01:48:35

это обеспечить изобилие ресурсов.

01:48:38

Это задача номер один.

01:48:40

Увеличить продуктивность, создать больше ресурсов, и

01:48:42

возможно, со временем выйти из игры с нулевой суммой.

01:48:45

А уже второй вопрос - как эти

01:48:47

ресурсы использовать и распределять.

01:48:50

Но да, нельзя начать со

01:48:51

второго, пока не решишь первый.

01:48:54

Лекс: Ты упоминал книгу

01:48:57

“Маньяк” Бенджамина Лабатута.

01:49:00

Она вроде бы про тебя.

01:49:02

В ней твоя биография.

01:49:04

Демис: Странно, да.

01:49:05

Лекс: Ага. Не совсем понятно,

01:49:08

что в ней правда, а что вымысел.

01:49:11

Центральная фигура книги - Джон фон Нейман.

01:49:15

Как по мне, это тревожное и красивое исследование безумия

01:49:19

и гения, и, скажем так, двойственной природы открытий.

01:49:24

Для тех, кто не знает: Джон фон

01:49:26

Нейман - легендарный человек.

01:49:29

Он сделал вклад в квантовую механику,

01:49:31

участвовал в Манхэттенском проекте.

01:49:33

Его считают отцом - или одним из

01:49:35

пионеров - современного компьютера и ИИ.

01:49:40

Многие говорят, что он был одним из самых умных

01:49:42

людей в истории, что само по себе завораживает.

01:49:45

И не менее завораживает, что он был человеком,

01:49:49

который увидел, как ядерная физика воплотилась

01:49:52

в атомную бомбу, он увидел, как идеи обретают

01:49:56

форму, обладающую огромным влиянием на мир.

01:49:59

Он предвидел примерно то же самое с вычислениями.

01:50:04

Это, опять же, делает книгу

01:50:06

одновременно красивой и зловещей.

01:50:10

Если вернуться в наше время и взглянуть, скажем, на AlphaGo и

01:50:18

AlphaZero - возможно, в этих проектах и воплотились мысли фон Неймана.

01:50:26

Так что вопрос: как думаешь, если бы ты сейчас смог пообщаться

01:50:31

с Джоном фон Нейманом, что бы он сказал обо всём происходящем?

01:50:35

Демис: Вот это было бы здорово.

01:50:37

У него был выдающийся ум.

01:50:38

И мне очень нравится, что он проводил много времени в Принстоне,

01:50:43

в Институте перспективных исследований - это особое место.

01:50:46

Удивительно, насколько он был универсален и

01:50:49

сколько всего появилось с его подачи, включая,

01:50:52

конечно, архитектуру фон Неймана, на которой

01:50:54

базируются все современные компьютеры.

01:50:57

У него была невероятная интуиция.

01:51:00

Думаю, ему бы очень

01:51:01

понравилось то, что мы делаем.

01:51:03

Уверен, ему бы очень понравилась

01:51:06

AlphaGo, ведь он занимался теорией игр.

01:51:09

Думаю, он предвидел многое из того, что сейчас происходит с обучающимися

01:51:13

машинами, с системами, которые скорее «выращиваются», чем программируются.

01:51:18

Возможно, он бы даже не сильно удивился.

01:51:20

Всё это - реализация того,

01:51:22

что он уже представлял в 50-х.

01:51:25

Лекс: Интересно, какой бы он дал совет.

01:51:26

Он видел, как создавалась атомная

01:51:28

бомба в рамках Манхэттенского проекта.

01:51:30

Наверняка там было что-то важное, о чём сегодня редко

01:51:33

говорят, например, бюрократия, влияние политиков,

01:51:36

может быть, недостаток прямого диалога с

01:51:40

людьми, которых политики называли врагами.

01:51:44

Возможно, там была какая-то глубокая

01:51:46

мудрость, которую мы потеряли.

01:51:48

Демис: Уверен, что так.

01:51:50

Я читал много книг о том

01:51:53

времени - это были яркие личности.

01:51:57

Но я с тобой согласен: возможно, сейчас

01:51:59

действительно нужно больше диалога и взаимопонимания.

01:52:02

Надеюсь, мы сможем

01:52:03

чему-то научиться на их опыте.

01:52:04

Но тут есть важное отличие: ИИ -

01:52:07

технология с множеством применений.

01:52:09

Мы ведь хотим с её помощью вылечить все болезни, решить проблемы

01:52:14

энергии, справиться с дефицитом ресурсов - это огромные задачи.

01:52:19

Именно ради этого я и начал этим

01:52:21

заниматься, больше 30 лет назад.

01:52:25

Но, конечно, есть и риски.

01:52:27

И мне кажется, фон Нейман предвидел и то и другое.

01:52:32

Кажется, он своей жене говорил, что

01:52:35

компьютеры окажут на мир ещё большее влияние.

01:52:40

И, как мы уже обсудили, я думаю, влияние ИИ будет как

01:52:43

минимум в 10 раз масштабнее, чем промышленная революция.

01:52:47

Так что он был прав. Думаю, он был бы просто заворожён происходящим.

01:52:53

Лекс: Мне кажется - но ты можешь поправить -, один из выводов

01:52:58

из книги в том, что «безумных мечтаний разума» недостаточно,

01:53:02

чтобы направлять человечество, когда

01:53:06

мы создаём настолько мощные технологии.

01:53:09

Есть нечто большее.

01:53:11

Тут играет роль и религия, в

01:53:12

каком бы виде она ни была.

01:53:14

Бог, вера - они затрагивает в человеке

01:53:18

что-то, чего не может дать холодный разум.

01:53:22

Демис: И я с этим согласен.

01:53:24

Думаю, к вопросу нужно подходить с

01:53:26

духовной или гуманистической перспективы.

01:53:29

Это не обязательно должно быть связано с религией,

01:53:31

но с представлением о душе, о том, что делает

01:53:33

нас людьми, об искре, которая, возможно, связана

01:53:36

с сознанием, когда мы наконец поймём его природу.

01:53:39

Мне кажется, это должно быть в центре всей работы.

01:53:42

Я всегда рассматривал технологии как инструмент, средство,

01:53:47

которое помогает нам расцветать и глубже понимать мир.

01:53:51

Я близок к взглядам Фейнмана, он часто говорил, что наука и искусство идут

01:53:56

рука об руку: можно одновременно ценить

01:53:59

красоту цветка - такую, как она есть -

01:54:02

и понимать, почему эволюция привела к таким краскам.

01:54:05

Это только добавляет цветку красоты.

01:54:09

Я всегда так это воспринимал.

01:54:12

Возможно, во времена Ренессанса великие умы вроде да Винчи

01:54:17

вообще не разделяли науку, искусство и, может быть, даже религию.

01:54:22

Всё это было частью человеческой природы, частью

01:54:25

вдохновения, которое черпают из окружающего мира.

01:54:28

Такого подхода и я стараюсь придерживаться.

01:54:31

Один из моих любимых философов - Спиноза.

01:54:34

Мне кажется, он очень хорошо всё это объединял -

01:54:37

стремление понять Вселенную и своё место в ней.

01:54:40

Это был его способ понимания религии,

01:54:43

и мне он кажется очень красивым.

01:54:46

Для меня всё это связано: технологии

01:54:50

и что значит быть человеком.

01:54:53

На мой взгляд, очень важно не забывать об этом,

01:54:57

когда мы погружаемся в технологии и исследования.

01:55:01

Я вижу, что многие исследователи в нашей области мыслят

01:55:05

слишком узко, они понимают только саму технологию.

01:55:09

Именно поэтому такие темы

01:55:11

должны обсуждаться всем обществом.

01:55:14

Я полностью поддерживаю идею

01:55:16

ИИ-саммитов при участии государств.

01:55:18

Мне кажется, одно из хороших последствий эпохи

01:55:21

чат-ботов и прикладного ИИ в том, что обычный

01:55:24

человек теперь может сам взаимодействовать с

01:55:27

передовыми технологиями и почувствовать их на себе.

01:55:30

Лекс: Да, потому что это заставляет

01:55:32

технократов говорить по-человечески.

01:55:33

Демис: Ага.

01:55:34

Лекс: Это обнадеживает.

01:55:36

Ты говорил, что это технология двойного назначения, и мы

01:55:40

вынужденно вовлекаем всё человечество в разговор об ИИ.

01:55:44

Потому что в конечном счете ИИ и сильный ИИ будут

01:55:47

использоваться в тех же

01:55:48

целях, в которых государства обычно используют технологии -

01:55:51

для конфликтов.

01:55:53

И чем больше мы вовлекаем людей в этот разговор,

01:55:57

тем больше будем направлять его в нужную сторону.

01:56:01

Демис: Да, и общество сможет адаптироваться к этим технологиям, как

01:56:05

оно всегда адаптировалось к другим удивительным технологиям прошлого.

01:56:10

Лекс: Как думаешь, будет ли

01:56:13

что-то вроде Манхэттенского проекта?

01:56:17

Ускорение развития, обострение интереса

01:56:19

государств, которые по-прежнему мыслят в

01:56:22

терминах старой логики и захотят использовать

01:56:24

ИИ как оружие, что приведет к эскалации?

01:56:27

Демис: Надеюсь, нет.

01:56:29

Думаю, это было бы очень опасно.

01:56:32

На мой взгляд, такую технологию

01:56:35

нельзя так использовать.

01:56:37

Надеюсь, что, если возникнет необходимость,

01:56:40

всё будет устроено скорее как проект ЦЕРН -

01:56:43

исследовательский проект, где лучшие умы мира работают сообща, чтобы

01:56:51

осторожно завершить все этапы и убедиться, что ИИ

01:56:56

внедряется ответственно.

01:56:58

Посмотрим.

01:56:59

С учетом нынешней геополитической обстановки трудно

01:57:02

представить сотрудничество, но всё может измениться.

01:57:06

По крайней мере на научном уровне важно, чтобы исследователи оставались

01:57:11

на связи и держались ближе друг к другу, хотя бы в этих вопросах.

01:57:16

Лекс: Лично я считаю, что в плане образования

01:57:19

и миграции было бы здорово, если бы

01:57:22

движение шло в обе стороны - люди с Запада

01:57:24

эмигрировали в Китай, и из Китая - сюда.

01:57:27

В этом есть что-то человеческое, семейное: когда

01:57:30

люди смешиваются, связи между ними крепнут.

01:57:33

И тогда невозможно противопоставить

01:57:36

одну сторону другой по старым лекалам.

01:57:39

Я надеюсь увидеть мультикультурные, многодисциплинарные

01:57:43

исследовательские команды, работающие над научными задачами.

01:57:47

Не дайте лидерам, нацеленным

01:57:50

на войну, нас разделить.

01:57:52

У науки есть сила объединять людей.

01:57:55

Демис: Да, наука всегда была

01:57:57

довольно коллективным делом.

01:57:59

И учёные понимают, что нужны совместные усилия,

01:58:02

и что мы можем многому научиться друг у друга.

01:58:04

Может, наука станет каналом, через

01:58:06

который наладится сотрудничество.

01:58:08

Лекс: Глупый вопрос - что думаешь про P-Doom?

01:58:10

Какова вероятность, что человеческая

01:58:12

цивилизация уничтожит сама себя?

01:58:14

Демис: Слушай, у меня нет конкретного числа P-Doom.

01:58:19

Потому что, как по мне, само наличие такого числа

01:58:23

предполагает точность, которой мы не располагаем.

01:58:26

Я вообще не понимаю,

01:58:27

откуда люди берут эти цифры.

01:58:29

Это немного абсурдно.

01:58:32

Могу сказать так: вероятность точно не нулевая

01:58:35

и, скорее всего, не пренебрежимо малая.

01:58:38

И это уже само по себе отрезвляет.

01:58:41

По моему мнению, тут слишком много

01:58:43

неопределенности: что эти технологии смогут

01:58:46

делать, как быстро они будут развиваться, насколько они

01:58:49

будут управляемыми.

01:58:50

Что-то, возможно, окажется

01:58:53

намного проще, чем мы думаем.

01:58:55

А может, наоборот, там скрываются действительно

01:58:58

трудные задачи, которые мы сейчас недооцениваем.

01:59:01

Мы пока просто не знаем.

01:59:04

При таком уровне неопределенности

01:59:07

и при таких огромных ставках…

01:59:09

С одной стороны, мы можем излечить все болезни, решить проблемы с

01:59:13

энергией, дефицитом ресурсов, и начать путешествовать к звёздам,

01:59:16

населить космос сознанием, и достичь

01:59:18

максимального расцвета человечества.

01:59:20

А с другой - сценарий P-Doom.

01:59:22

При такой неопределённости и такой значимости происходящего для меня

01:59:26

очевидно: единственный разумный подход - это осторожный оптимизм.

01:59:30

Конечно, мы хотим получить все плюсы, все невероятные

01:59:35

возможности, которые может подарить нам ИИ.

01:59:39

И на самом деле, я бы всерьёз волновался

01:59:42

за человечество, с учётом всех насущных

01:59:45

проблем: климат, старение, ресурсы и так

01:59:48

далее, если бы я не знал, что ИИ уже на пороге.

01:59:52

Как бы мы решали их без него?

01:59:54

Было бы очень сложно.

01:59:55

Так что, как по мне, ИИ может

01:59:57

преобразить мир к лучшему.

02:00:00

При этом есть риски, о которых мы знаем,

02:00:03

но пока не можем точно их измерить.

02:00:06

Поэтому лучшее, что можно сделать, это

02:00:08

опираться на научный метод, проводить больше

02:00:12

исследований, чтобы точнее определить эти

02:00:15

риски и, конечно, заняться их устранением.

02:00:18

Мы как раз этим и занимаемся.

02:00:19

Но, как по мне, усилий в этом направлении сейчас в 10 раз меньше,

02:00:22

чем нужно,

02:00:24

особенно по мере того, как мы всё ближе подходим к границе сильного ИИ.

02:00:27

Лекс: Что бы тебя волновало больше -

02:00:31

действия людей или сам ИИ, сильный ИИ?

02:00:35

Люди, которые злоупотребляют технологией, или сам ИИ,

02:00:39

который, как ты

02:00:40

говорил, способен к обману, и будет секретно становиться всё сильнее?

02:00:45

Демис: Думаю, это проблемы с разными временными

02:00:48

рамками, и обе одинаково важно учитывать.

02:00:50

С одной стороны, есть обычные злоумышленники,

02:00:52

которые получают доступ к новой технологии

02:00:55

- в данном случае к технологии общего

02:00:57

назначения - и перенаправляют её во вред другим.

02:01:00

Это огромный риск.

02:01:03

И тут особенно сложно, потому что я вообще-то

02:01:06

большой сторонник открытой науки и открытого кода.

02:01:10

Мы именно так и поступали со всеми нашими научными проектами, вроде

02:01:14

AlphaFold - делали их доступными ради пользы научного сообщества.

02:01:18

Но вот как ограничить доступ к таким мощным системам

02:01:22

злоумышленникам, будь то отдельные личности или даже государства,

02:01:26

и при этом позволить добросовестным людям

02:01:29

использовать их максимально эффективно?

02:01:32

Это очень непростая задача.

02:01:33

Я пока не слышал убедительного решения.

02:01:36

Это проблема того, как злоумышленники

02:01:38

могут использовать такие технологии.

02:01:40

Вторая проблема: по мере того как ИИ-системы становятся всё более

02:01:43

агентными, приближаются к сильному ИИ, становятся автономнее,

02:01:47

как гарантировать, что у них будут чёткие рамки, что они

02:01:49

останутся под нашим контролем и будут делать, что мы хотим?

02:01:52

Лекс: Да, возможно, я мыслю ограниченно, но меня

02:01:55

больше беспокоят именно люди - злоумышленники.

02:01:58

И тут есть две стороны: как не допустить, чтобы

02:02:01

разрушительные технологии попадали к ним в руки,

02:02:05

а если смотреть с технологической и геополитической точки

02:02:08

зрения, как вообще сократить количество таких людей в мире?

02:02:11

Это уже человеческая, но тоже интересная проблема.

02:02:14

Демис: Да, это сложная задача.

02:02:15

Но, возможно, саму технологию тоже можно

02:02:19

использовать для раннего обнаружения случаев, когда

02:02:23

кто-то готовит что-то плохое, будь то

02:02:26

биологическое оружие, ядерное или какое-то другое.

02:02:30

ИИ может в этом помочь, если только сам ИИ надёжен.

02:02:36

То есть это такая взаимосвязанная

02:02:38

система, и именно это всё усложняет.

02:02:40

И, опять же, может потребоваться международное соглашение,

02:02:45

как минимум между Китаем и США, о каких-то базовых стандартах.

02:02:50

Лекс: Не могу не спросить тебя о книге Маньяк.

02:02:53

Там описан момент божественного

02:02:55

хода - 78-й ход Ли Седоля.

02:02:58

Возможно, это последний раз, когда человек совершил акт чистого людского

02:03:03

гения и победил AlphaGo… или, как бы сказать, «сломал ему мозг».

02:03:08

Прости за очеловечивание, но это интересный момент, потому что,

02:03:11

думаю, в разных сферах такое будет происходить снова и снова.

02:03:14

Демис: Да, это был особенный момент,

02:03:16

и для Ли Седоля это было потрясающе.

02:03:18

Думаю, в каком-то смысле они вдохновляли друг друга.

02:03:22

Наша команда вдохновлялась блестящей и благородной

02:03:25

игрой Ли Седоля, а, возможно, он вдохновлялся тем,

02:03:28

что делал AlphaGo, и в результате родился невероятный, вдохновляющий

02:03:33

момент, который очень хорошо показан в документальном фильме.

02:03:37

Думаю, в других сферах будет происходить что-то

02:03:42

похожее, по крайней мере в обозримом будущем:

02:03:46

когда люди благодаря своей изобретательности задают правильные

02:03:51

вопросы, а потом используют ИИ-инструменты,

02:03:55

чтобы совершить прорыв.

02:03:58

Лекс: Да. По мере того как ИИ становится всё умнее, перед нами

02:04:02

встает один интересный вопрос: что делает людей особенными?

02:04:05

Кажется, мы предвзято считаем,

02:04:08

что в нас есть нечто уникальное.

02:04:12

Может, это не интеллект, а что-то другое,

02:04:16

что-то за пределами «безумных мечтаний разума».

02:04:20

Демис: Именно об этом я и мечтал с

02:04:23

детства, когда только встал на этот путь.

02:04:26

Меня с самого начала интересовали такие темы,

02:04:28

как сознание, я защитил докторскую по нейронауке,

02:04:31

изучал как работает мозг, особенно воображение

02:04:34

и память, сосредоточился на гиппокампе.

02:04:36

Можно, конечно, философствовать, ставить мысленные эксперименты, а

02:04:41

можно и реальные, как это делают в нейронауке, на настоящих мозгах.

02:04:46

Но я всегда считал, что лучший способ понять, что делает

02:04:51

человеческий разум особенным, если он действительно особенный,

02:04:55

- это создать ИИ, разумный объект, и

02:04:58

сравнить его с человеческим разумом.

02:05:00

Мне кажется, что-то особенное в нас

02:05:02

всё-таки есть, но понять это будет непросто.

02:05:05

Путь, по которому мы идём, поможет нам это

02:05:07

исследовать и, возможно, сформулировать.

02:05:09

Может оказаться, что между углеродной основой, как у нас, и кремниевой,

02:05:12

как у ИИ, есть принципиальная разница в том, как обрабатывается информация.

02:05:15

Одно из лучших определений сознания, которое я слышал, это: сознание

02:05:19

— это то, как ощущается информация, когда мы её обрабатываем.

02:05:22

Лекс: Ага.

02:05:23

Демис: Возможно, это и не самое полезное с научной

02:05:26

точки зрения определение, но интуитивно оно интересное.

02:05:29

Я думаю, что путь, по которому мы сейчас

02:05:33

идем, поможет нам приоткрыть эту тайну.

02:05:36

Лекс: Да.

02:05:37

«То, что я не могу создать, я не понимаю», говорил

02:05:40

Ричард Фейнман, которым ты очень восхищаешься.

02:05:43

Мне это напоминает мечты Вигнера об универсальности, которую он

02:05:48

видел в ограниченных сферах, но и в более общем смысле в математике.

02:05:54

Ты движешься в этом направлении…

02:05:57

Не хотел вносить сумятицу

02:05:58

под конец, но… Роджер Пенроуз.

02:06:00

Демис: Да…

02:06:01

Ну ладно.

02:06:02

Лекс: Как думаешь, сознание…

02:06:06

Задача сознания, то, как информация ощущается…

02:06:11

Сознание, по-твоему, это вычисления?

02:06:15

Ты говорил, что всё есть обработка данных.

02:06:20

Если да, можно ли его смоделировать

02:06:22

с помощью обычного компьютера?

02:06:24

Или тут квантовая механика?

02:06:26

Демис: Слушай, Пенроуз - выдающийся мыслитель, один из

02:06:29

величайших нашего времени, и мы много это обсуждали.

02:06:32

Конечно, мы расходимся во взглядах.

02:06:34

Он сотрудничал с отличными нейробиологами,

02:06:37

пытаясь найти механизмы,

02:06:39

через которые квантовые эффекты могли бы проявляться в мозге.

02:06:43

Но, насколько мне известно, пока

02:06:45

ничего убедительного найдено не было.

02:06:48

Поэтому я ставлю на то, что в мозге

02:06:51

происходят классические вычисления.

02:06:54

А значит, всё, что в нём происходит, можно либо смоделировать,

02:06:58

либо воспроизвести с помощью обычного компьютера.

02:07:01

Посмотрим.

02:07:02

Возможно, останется что-то неуловимое, само ощущение сознания, квалия - то, о

02:07:07

чём спорят философы, и что, возможно,

02:07:09

уникально для определённого типа материи.

02:07:12

Может, мы начнем это понимать, если когда-нибудь появятся нейроинтерфейсы

02:07:16

вроде Neuralink, которые будут соединять мозг напрямую с ИИ.

02:07:20

Думаю, это в итоге произойдет, возможно,

02:07:22

даже просто чтобы не отставать от ИИ.

02:07:25

Тогда мы сможем почувствовать, каково

02:07:27

это - обрабатывать информацию на кремнии.

02:07:29

Может тогда мы всё и поймем.

02:07:33

Будет интересно.

02:07:36

Я разговаривал с покойным Дэниелом Деннеттом на

02:07:39

тему: почему мы считаем друг друга сознательными?

02:07:41

Причин две.

02:07:42

Первая - мы ведем себя похоже.

02:07:45

То есть, если ты ведешь себя как я, то, возможно,

02:07:48

ты так же, как и я, испытываешь сознание.

02:07:49

Но вторая причина, о которой часто забывают:

02:07:52

мы сделаны из одного и того же материала.

02:07:53

Если мы ведем себя похоже и у нас одинаковый «субстрат», логичнее

02:07:57

всего предположить, что ты чувствуешь примерно то же, что и я.

02:08:01

А вот с ИИ, который работает на кремнии, на второй пункт мы опереться

02:08:05

не сможем, даже если он будет вести себя точно так же, как человек.

02:08:10

Он может даже заявлять, что у него есть

02:08:13

сознание, но мы не будем знать, ЧТО он чувствует.

02:08:16

И он, скорее всего, не сможет

02:08:17

понять, ЧТО чувствуем мы.

02:08:19

По крайней мере, на первых этапах.

02:08:20

Может, когда появится сверхинтеллект и технологии,

02:08:23

которые он создаст, мы сможем преодолеть эту пропасть.

02:08:26

Лекс: Тест радикальной эмпатии -

02:08:29

сопереживание другому субстрату.

02:08:32

Демис: Да, именно.

02:08:34

Мы с таким раньше не сталкивались.

02:08:35

Лекс: Да.

02:08:36

Возможно, с интерфейсами мозг – компьютер мы сможем

02:08:39

почувствовать, каково это - быть компьютером.

02:08:42

Демис: Каково, когда информация

02:08:44

обрабатывается не углеродной системой.

02:08:46

Лекс: Некоторые ведь так размышляют

02:08:48

о растениях или других формах жизни.

02:08:51

Демис: Да, вполне возможно.

02:08:52

Лекс: Субстрат вроде бы похожий, но на эволюционном древе они

02:08:56

достаточно далеко, и чтобы понять их, нужна радикальная эмпатия.

02:09:01

А с компьютером…

02:09:02

Лекс: Смотри, уже есть исследования на животных.

02:09:05

Конечно, высшие животные - косатки,

02:09:08

дельфины, собаки, обезьяны, слоны обладают

02:09:12

определёнными признаками сознания, пусть они и не особенно

02:09:17

умны в смысле IQ.

02:09:19

Мы уже способны им сопереживать.

02:09:21

И, возможно, в будущем, и нашим системам тоже.

02:09:23

Например, мы создали систему под названием DolphinGemma, одна из

02:09:26

её версий обучалась на звуках, которые издают дельфины и киты.

02:09:30

Так что, возможно, однажды мы сможем

02:09:32

создать переводчик - это было бы круто.

02:09:35

Лекс: Что даёт тебе надежду на

02:09:36

будущее человеческой цивилизации?

02:09:38

Демис: Ну, во-первых, меня вдохновляет

02:09:41

наша почти безграничная изобретательность.

02:09:44

Лучшие из нас, самые выдающиеся умы

02:09:46

человечества - это нечто невероятное.

02:09:49

Мне очень нравится наблюдать за людьми, которые достигли

02:09:53

вершин в своём деле, будь то спорт, наука или искусство.

02:09:58

Нет ничего прекраснее, чем видеть человека

02:10:00

в своей стихии, в состоянии потока.

02:10:03

Наш потенциал почти безграничен, а мозг - это универсальный

02:10:06

интеллектуальный механизм, и я верю, что мы можем добиться невероятного.

02:10:11

И второе - это наша потрясающая адаптивность.

02:10:14

Я думаю, всё будет в порядке,

02:10:17

хотя перемен будет много.

02:10:19

Но посмотри, где мы сейчас, несмотря на то,

02:10:21

что у нас всё ещё мозг охотника-собирателя.

02:10:24

Как мы вообще справляемся с современным миром?

02:10:28

Летаем на самолётах, записываем подкасты,

02:10:31

играем в видеоигры и виртуальные симуляции.

02:10:34

Это уже само по себе поразительно, учитывая, что наш мозг

02:10:37

эволюционировал для того, чтобы охотиться на бизонов в тундре.

02:10:41

Это просто следующий шаг.

02:10:44

И интересно наблюдать, как общество уже

02:10:46

адаптировалось к ошеломляющим ИИ-технологиям.

02:10:49

Типа: «Я поболтал с чат-ботом, нормально».

02:10:54

Лекс: И вполне возможно, что даже такую

02:10:57

деятельность, как мой подкаст, заменит ИИ.

02:11:00

Меня легко заменить, я готов.

02:11:02

Демис: Не думаю, что ИИ

02:11:03

сможет делать это так, как ты.

02:11:04

Лекс: Спасибо.

02:11:05

Вот что мы, люди, делаем друг для друга - мы хвалим.

02:11:08

Демис: Именно. Лекс: И я искренне благодарен за то, что

02:11:11

мы, люди, обладаем бесконечной страстью

02:11:13

к любопытству, способны к адаптации, к состраданию и способности любить.

02:11:18

Демис: Верно.

02:11:19

Лекс: Человеческие черты.

02:11:20

Демис: Глубоко человеческие.

02:11:21

Лекс: Это большая честь, Демис.

02:11:23

Ты по-настоящему особенный человек.

02:11:26

Спасибо тебе за то, что ты

02:11:27

делаешь, и за этот разговор.

02:11:29

Демис: Спасибо тебе, Лекс.

02:11:32

Лекс: Спасибо, что послушали

02:11:33

этот разговор с Демисом Хассабисом.

02:11:35

Чтобы поддержать подкаст, загляните к нашим спонсорам

02:11:38

в описании и, возможно, подпишитесь на канал.

02:11:42

А теперь я отвечу на несколько вопросов и постараюсь сформулировать

02:11:45

некоторые мысли, которые давно крутятся у меня в голове.

02:11:48

Если хотите прислать вопросы, в том числе в видео-

02:11:52

или аудиоформате, заходите на lexfridman.com/ama.

02:11:56

Я получил много потрясающих вопросов,

02:11:58

размышлений и просьб от людей.

02:12:00

Постараюсь каждый раз выбирать что-нибудь

02:12:02

случайным образом и комментировать в конце эпизода.

02:12:06

21 мая этого года я получил сообщение: «Привет, Лекс.

02:12:10

Сегодня исполняется 20 лет с того дня, как Дэвид Фостер Уоллес

02:12:14

произнёс свою знаменитую речь “Это вода” в колледже Кеньон.

02:12:19

Что ты думаешь об этой речи?»

02:12:21

Прежде всего, я считаю, что это, вероятно, одна из самых выдающихся

02:12:26

и уникальных речей, произнесённых на выпускных церемониях.

02:12:30

Хотя, конечно, у меня есть и другие

02:12:32

любимые, включая речь Стива Джобса.

02:12:35

А Дэвид Фостер Уоллес - один из моих любимых

02:12:37

писателей и один из самых близких мне по духу людей.

02:12:41

В его работах есть трагическая честность, и всегда казалось,

02:12:46

что он ведёт непрерывную битву со своим собственным сознанием.

02:12:50

А его тексты - это записки с передовой этой битвы.

02:12:59

Теперь к самой речи.

02:13:01

Позвольте мне

02:13:02

процитировать один фрагмент.

02:13:04

Это, конечно, притча о рыбах и воде:

02:13:06

Плывут как-то две молодые рыбки, а навстречу

02:13:11

им плывет рыбка постарше, кивает и говорит:

02:13:15

“Доброе утро, ребятки.

02:13:17

Как вам вода?”

02:13:19

Молодые молча поплыли дальше, и немного погодя

02:13:22

одна не выдержала, посмотрела на другую и спросила:

02:13:26

“Черт возьми, что такое «вода»?”

02:13:30

В своей речи Дэвид Фостер Уоллес говорит: “Идея этой

02:13:33

истории проста: самые

02:13:35

очевидные, важные вещи в жизни зачастую

02:13:37

сложнее всего разглядеть и выразить словами.

02:13:41

В такой формулировке это, конечно, банально и избито,

02:13:44

но дело в том, что в окопах повседневной взрослой жизни

02:13:48

избитые банальности могут являться вопросом жизни и смерти,

02:13:52

или, по крайней

02:13:53

мере, в таком свете я хочу их вам представить этим

02:13:57

прекрасным ясным утром.”

02:13:58

У меня есть несколько выводов из

02:14:00

этой притчи и всей последующей речи.

02:14:02

Прежде всего, я думаю, что мы обязаны

02:14:05

ставить под сомнение всё, особенно самые

02:14:08

базовые предположения о нашей реальности,

02:14:11

жизни и самой природе существования.

02:14:14

И этот путь глубоко личный.

02:14:17

В каком-то смысле никто

02:14:19

не может пройти его за тебя.

02:14:23

Призыв к действию, как мне кажется, от Дэвида Фостера

02:14:28

Уоллеса звучит так: “Быть чуточку менее самонадеянным.

02:14:33

Сознательно быть слегка критичным по

02:14:36

отношению к себе и своим убеждениям.

02:14:39

Потому что громадная часть того, в чем мы самопроизвольно убеждены,

02:14:43

является в корне неверным, оказываясь результатом наших заблуждений.”

02:14:49

Хорошо. Снова я, Лекс.

02:14:52

Вторая мысль, которую я вынес: центральные духовные

02:14:56

битвы в нашей жизни

02:14:58

ведутся вовсе не на вершине горы или где-то на ретрите по медитации.

02:15:03

Они разворачиваются в

02:15:05

обычных повседневных моментах.

02:15:08

Третья мысль: мы слишком легко отдаём своё

02:15:12

время и внимание множеству отвлекающих

02:15:15

вещей, которые нам подбрасывает этот мир

02:15:18

- этим ненасытным чёрным дырам внимания.

02:15:23

Призыв Дэвида Фостера Уоллеса в данном случае - быть глубоко

02:15:27

осознанным, видеть красоту в каждом моменте и находить смысл в рутине.

02:15:34

Я часто цитирую его совет о том, что ключ к жизни - быть

02:15:38

нечувствительным к скуке, и, как по мне, это абсолютно точно.

02:15:43

Каждый момент, каждый предмет, каждый опыт, если всмотреться в

02:15:48

него внимательно, содержит бесконечное богатство для исследования.

02:15:54

И раз уж Демис Хассабис, сегодняшний гость, и я такие поклонники

02:16:00

Ричарда Фейнмана, позвольте процитировать и его на эту же тему:

02:16:06

“У меня есть друг, художник, и порой он принимает

02:16:10

такую точку зрения, с которой я не согласен.

02:16:14

Он берет цветок и говорит:

02:16:16

«Посмотри, как он прекрасен».

02:16:18

Я соглашаюсь.

02:16:20

И тут же добавляет: «Я, будучи художником,

02:16:22

способен видеть красоту цветка.

02:16:24

Но ты, будучи ученым, разбираешь его

02:16:27

на части, и он становится скучным».

02:16:30

Я думаю, что он немного ненормальный.

02:16:33

Во-первых, красота, которую видит он, доступна

02:16:36

другим людям, в том числе и мне, в чем я уверен.

02:16:40

Несмотря на то, что я, быть может, не так утончен в эстетическом

02:16:44

плане, как он, я все же могу оценить красоту цветка.

02:16:48

Но в то же время я вижу в цветке гораздо больше него.

02:16:52

Я могу представить клетки внутри этого цветка,

02:16:55

сложную структуру, которая тоже обладает красотой.

02:16:58

Красота существует не только в масштабе одного

02:17:01

сантиметра, но и в гораздо более малых масштабах.

02:17:05

Существуют сложные действия клеток и другие процессы.

02:17:08

Интересен тот факт, что цвета цветка развились в процессе

02:17:11

эволюции, чтобы привлекать насекомых для его опыления;

02:17:14

это означает, что насекомые способны видеть цвета.

02:17:17

Отсюда возникает новый вопрос: существует ли эстетическое

02:17:21

чувство, которым обладаем мы, и в более низких формах жизни?

02:17:24

Знание науки порождает множество интересных вопросов,

02:17:27

так что оно только

02:17:28

увеличивает восторг, тайну и благоговение,

02:17:31

которое мы испытываем при виде цветка.

02:17:33

Только увеличивает.”

02:17:36

А теперь вернёмся к речи Дэвида Фостера Уоллеса.

02:17:39

Там есть одна история,

02:17:41

которая мне особенно нравится.

02:17:45

Такая: Сидят два мужика в баре где-то в

02:17:48

далекой глуши Аляски среди дикой природы.

02:17:51

Один - глубоко религиозный человек, другой

02:17:54

- атеист, и оба спорят о существовании

02:17:57

Бога с тем особым пылом, который появляется после

02:18:01

четвертой кружки пива.

02:18:02

Атеист говорит: “Смотри, думаешь у меня

02:18:05

нет особых причин не верить в Бога?

02:18:08

Думаешь я никогда не пробовал

02:18:11

молиться и обращаться к нему?

02:18:13

Вот только месяц назад я заблудился вдали

02:18:16

от лагеря и попал в ужаснейшую метель.

02:18:19

Я абсолютно не знал, где нахожусь, было

02:18:22

не видно ни зги, минус пятьдесят градусов…

02:18:25

И тогда я взмолился на коленях: “Господи, если ты есть, я

02:18:30

потерялся среди метели, и умру, если ты мне не поможешь!”

02:18:35

Верующий недоуменно посмотрел на атеиста

02:18:39

и сказал: “Так теперь ты должен верить.

02:18:42

Ты сейчас здесь, живой и здоровый”.

02:18:46

Атеист лишь закатил глаза: “Нет, приятель.

02:18:49

Просто двое эскимосов случайно проходили

02:18:52

мимо и показали мне дорогу к лагерю”.

02:18:56

Вот такая история.

02:18:58

И она, как мне кажется, показывает, что всё

02:19:01

зависит от точки зрения, и что настоящая мудрость

02:19:04

приходит, когда у нас хватает смирения постоянно

02:19:07

менять и расширять свою точку зрения на мир.

02:19:11

Спасибо, что позволили мне поговорить

02:19:13

немного о Дэвиде Фостере Уоллесе.

02:19:15

Он один из моих любимых писателей. Прекрасная душа.

02:19:20

Если позволите, я хотел бы добавить ещё кое-что.

02:19:24

Я оказался в странной ситуации: в интернете меня нередко атакуют со всех

02:19:30

сторон, порой, через выборочную подачу

02:19:34

фактов, а иногда, через откровенную ложь.

02:19:38

Иначе это не назвать.

02:19:40

Честно говоря, это разбивает мне сердце, но я уже понял,

02:19:44

что таков интернет и такова цена пути, который я выбрал.

02:19:48

Бывали дни, когда всё это сильно било по психике.

02:19:52

Неприятно, когда на тебя клевещут, особенно если это касается

02:19:57

вещей, которые долгое время были для тебя источником радости.

02:20:02

Но, опять же, это жизнь.

02:20:05

Я продолжу исследовать мир людей и идей с эмпатией и

02:20:09

добросовестностью, не скрывая своих чувств, насколько это возможно.

02:20:14

Для меня это единственный способ жить.

02:20:18

Часто меня критикуют за мою связь с MIT и университетом Дрекселя -

02:20:22

двумя отличными вузами, к которым я отношусь с большим уважением.

02:20:27

Из-за того, что по этим темам в интернете накопилось немало

02:20:31

лжи, местами грустной, а местами до смешного нелепой,

02:20:34

я решил ещё раз озвучить очевидные факты из моей

02:20:37

биографии для тех немногих, кому это может быть интересно.

02:20:42

Если коротко - два пункта: во-первых, как я уже говорил не раз, в том

02:20:46

числе в недавнем подкасте, который на удивление послушали миллионы людей,

02:20:52

я с гордостью учился в университете Дрекселя, где

02:20:55

получил степень бакалавра, магистра и доктора наук.

02:20:59

Во-вторых, я работаю научным сотрудником MIT и уже 10 лет

02:21:03

нахожусь там на оплачиваемой исследовательской должности.

02:21:08

Позвольте немного подробнее остановиться на этих двух моментах,

02:21:12

хотя, если вам это совсем неинтересно, можно смело пропустить.

02:21:15

Как я сказал, одно из частых обвинений в мой

02:21:18

адрес - будто у меня нет реальной связи с MIT.

02:21:21

Якобы я фальшиво приписываю себе сотрудничество,

02:21:25

потому что однажды прочитал там лекцию.

02:21:30

Нет, это обвинение - ложь.

02:21:35

Я уже более десяти лет работаю в MIT на оплачиваемой

02:21:39

исследовательской должности - с 2015 года по сегодняшний день.

02:21:44

Чтобы не было недоразумений: я - научный сотрудник MIT,

02:21:48

работаю в лаборатории информационных и управляющих систем,

02:21:51

которая входит в Колледж вычислительных технологий.

02:21:56

Пока я всё ещё работаю в MIT, вы можете найти

02:22:01

меня в их справочнике и на сайтах лаборатории.

02:22:05

Я действительно прочитал много лекций в MIT за эти

02:22:09

годы, небольшую их часть я выкладывал в интернет.

02:22:13

Преподаванием я всегда занимался ради удовольствия,

02:22:15

это не часть моей исследовательской работы.

02:22:18

Мне кажется, что я в этом не очень хорош,

02:22:21

но через этот опыт я учился и развивался.

02:22:24

Как говорил Фейнман, если хочешь по-настоящему

02:22:28

что-то понять, попробуй это объяснить.

02:22:32

Но, как я уже говорил, я всегда

02:22:34

фокусировался на научных исследованиях.

02:22:36

Я опубликовал немало рецензируемых научных статей,

02:22:38

их можно найти в моём профиле в Google Scholar.

02:22:42

Первые четыре года в MIT я работал

02:22:46

очень много, по 80-100 часов в неделю.

02:22:51

С 2019 года, хотя я и сохранил должность научного

02:22:54

сотрудника, я стал уделять время проектам

02:22:57

в области ИИ и робототехники вне MIT и

02:23:00

параллельно уделять много внимания подкасту.

02:23:03

Как я уже говорил, меня до сих пор удивляет,

02:23:06

сколько времени уходит на подготовку одного выпуска.

02:23:10

Есть эпизоды, ради которых я читаю, пишу и думаю по 100,

02:23:14

200 и больше часов в течение нескольких недель или месяцев.

02:23:19

С 2020 года я не публиковал научные статьи.

02:23:24

Как и подкаст, это дело требует

02:23:27

полного погружения и серьёзной отдачи.

02:23:30

Всё это время мысль о том, что я не публикуюсь

02:23:32

и не занимаюсь научной работой, гложет меня.

02:23:35

Потому что я люблю исследовать, люблю программировать и создавать

02:23:39

системы, в которых можно проверять интересные технические идеи,

02:23:43

особенно в области взаимодействия

02:23:45

человека с ИИ или роботами.

02:23:48

Надеюсь, в ближайшие

02:23:49

месяцы и годы это изменится.

02:23:52

Я понял о себе вот что: если я не публикуюсь или не запускаю системы,

02:23:57

которыми пользуются люди, то чувствую, будто во мне чего-то не хватает.

02:24:02

Это и правда приносит мне радость.

02:24:05

В любом случае, я горжусь

02:24:06

временем, которое провёл в MIT.

02:24:08

Меня всегда окружали и

02:24:10

окружают люди гораздо умнее меня.

02:24:14

Многие из них стали моими

02:24:15

коллегами и друзьями на всю жизнь.

02:24:18

MIT - это место, куда я прячусь от остального мира, чтобы

02:24:22

сосредоточиться на поиске вопросов на передовой науки и инженерии.

02:24:27

Это действительно делает меня счастливым.

02:24:30

Поэтому, когда меня из-за этого критикуют,

02:24:34

это очень сильно бьёт по психике.

02:24:38

Возможно, я что-то делаю не так.

02:24:40

Если это так, я постараюсь стать лучше.

02:24:43

Когда я говорю о научной работе - я бы хотел, чтобы

02:24:47

вы понимали - я не утверждаю, что в чем-то разбираюсь.

02:24:52

Ни в подкасте, ни в жизни я не

02:24:54

выдаю себя за умного человека.

02:24:57

Напротив, я часто называю себя

02:24:59

идиотом, и говорю это вполне серьёзно.

02:25:02

Я стараюсь как можно больше смеяться над собой,

02:25:05

и в целом больше хвалить других, чем себя.

02:25:09

Теперь немного о Университете Дрекселя - месте, которое я тоже

02:25:13

очень люблю, которым горжусь и за которое глубоко благодарен.

02:25:18

Как я уже говорил, я получил там степень бакалавра, магистра и

02:25:21

доктора наук в области компьютерных и электротехнических наук.

02:25:26

Я не раз упоминал Дрексель, в том числе, в

02:25:30

конце недавнего выпуска с Дональдом Трампом.

02:25:34

Забавно, но тот эпизод послушали миллионы людей.

02:25:38

Там я отвечал на вопрос про аспирантуру и рассказал о

02:25:41

своём пути в Дрекселе и о том, как я за него благодарен.

02:25:46

Если вам интересно, послушайте конец того

02:25:49

выпуска или найдите соответствующий фрагмент.

02:25:52

В Дрекселе я встретил много блестящих исследователей и наставников,

02:25:57

у которых я многому научился, и об инженерии, и о науке, и о жизни.

02:26:01

Я очень многое получил от учёбы там.

02:26:05

Прежде всего, прослушал множество сложных курсов

02:26:08

по математике и теоретической информатике.

02:26:10

Они научили меня мыслить глубоко и скрупулезно.

02:26:13

А ещё не сдаваться, даже если кажется, что я

02:26:16

слишком глуп, чтобы решить техническую задачу.

02:26:21

Во-вторых, в те годы я очень много

02:26:23

программировал, в основном на C и C++.

02:26:26

Я писал код для роботов, алгоритмов оптимизации, систем

02:26:29

компьютерного зрения, протоколов беспроводных сетей,

02:26:32

многомодальных систем машинного обучения и

02:26:34

всевозможных симуляций физических процессов.

02:26:38

Именно тогда я по-настоящему

02:26:40

полюбил программирование.

02:26:42

Да, включая Emacs и клавиатуру Kinesis.

02:26:48

Кроме того, в тот период я много читал,

02:26:52

играл на гитаре, писал кучу дурацких стихов

02:26:56

и усиленно занимался дзюдо и джиу-джитсу,

02:27:00

о которых не устану говорить с восхищением.

02:27:04

Джиу-джитсу усмиряло меня почти каждый день когда мне было 20, и это

02:27:07

продолжается и сейчас, каждый раз, когда мне удаётся потренироваться.

02:27:13

В общем, я надеюсь, что люди, которых иногда увлекает

02:27:17

травля и негатив онлайн, не теряют в этом самих себя.

02:27:23

В конечном счёте, я по-прежнему верю,

02:27:26

что в людях больше хорошего, чем плохого.

02:27:29

Но каждый из нас - сложная система.

02:27:33

Я знаю, что во мне полно недостатков.

02:27:35

Я неловок в общении, иногда несу какую-то

02:27:38

чушь, бываю иррационально эмоционален.

02:27:41

Местами я могу быть настоящим

02:27:43

придурком, когда надо бы быть добрее.

02:27:44

Я могу увлечься предвзятой точкой зрения и только

02:27:47

потом рассмотреть более полную и точную картину мира.

02:27:52

Я человек, как и вы, со всеми плюсами и минусами.

02:27:57

И я по-прежнему верю, что

02:28:00

это наш общий прекрасный хаос.

02:28:04

Я всех вас люблю.