Физмат искин
Искин — ИскИн, искусственный интеллект — термин, с которым я встретился в «Нейроманте» Уильяма Гибсона, переводной классике научной фантастики. Почему-то он не закрепился в русском языке, хотя это не аббревиатура, а полноценное слово, соблюдающее правила русского языка.
Про искинов сейчас говорят из каждого утюга, а скоро и сами утюги начнут говорить. Я же задумался о том, что нужно для создания полноценного искина, когда они были ещё областью чистой фантастики. Когда придумывал «Колдуш», где искин играет ключевую роль, даже когда писал повесть, искины ещё были на уровне хорошего шахматиста и только.
То, что сейчас называют искинами, мне сложно считать интеллектами. И об этом я и хочу поговорить в этот раз, сделав несколько необходимых объяснительных отступлений.
Наш разум, он же естественный интеллект, развивался под воздействием, при участии нескольких каналов связи с окружающим миром — и это мне кажется крайне важным. Причём мозг получал информацию не только от зрительных и звуковых рецепторов, но и от проприорецепторов и других, сообщающих о состоянии тела, того, что он считал собой. Более того, он не только получал информацию, но и мог чем-то управлять, то есть отправлять информацию, сигналы в окружающий мир.
У мозга всегда были системы обратной связи, как положительной, так и отрицательной. Можно было посылать один и тот же сигнал и получать один и тот же ответ. У искинов, особенно чатботов, нет такой возможности, так как имеющаяся обратная связь сделана не для них, а для разработчиков. Если чатбот выдаёт один и тот же сигнал, то ему нет смысла ждать одного и тоже ответа. (У чатботов нет возможности по собственному желанию создавать сигнал, это отдельная тема, у более сложных искинов она появляется.)
У искинов, которые получили в использование видеокамеры, на самом деле, тоже нет обратной связи, они не могут ничего сделать с материальным миром. Насколько я знаю, те искины, что умеют двигаться, то есть взаимодействуют с реальностью, пока не имеют, условно говоря, абстрактного мышления в виде работы с текстами, языком или хотя бы словами. Хотя прогресс в работе ИИ наблюдается прямо в процессе написания этого текста.
На мой взгляд для создания полноценного искина необходимо, чтобы он умел не только получать информацию о своём железе, его состоянии, но и управлять им, например, уничтожать компьютер, на котором он находится. Уничтожать, скажем, перегревом различных деталей.
Сейчас только-только появляются искины, которые двигаются, имеют несколько органов чувств, и одновременно с этим могут анализировать, делать обобщенные выводы из разнородных данных. Однако, большинство работает, даже получают условную обратную связь, только с абстракциями, а потому не могут, на мой взгляд, претендовать на статус настоящего искина.
И вот тут пора сказать про различия между абстракциями, с которыми имеют дело современные искины, и реальными объектами, с тем, что дают обратную связь, помогающую что-то понять о реальном мире.
Чем отличается математика от физики?
Математика позволяет создать любую систему уравнений. Если правильно подобрать логику, то может быть даже 2+2=5. Или сделать такую систему, в которой будет не только существование и несуществование (а и не-а), но и другие значения истинности. Математики ещё те фантазёры!
Физики не могут использовать свою фантазию на полную. Физика из всего математического разнообразия выбирает те системы уравнений, которые описывают реальность, окружающий нас мир, то есть те, которые позволяют предсказывать реальные события. Математика может описать как расширение, так и сжатие металла при нагреве, но физика выбирает только один вариант — получаемый на практике. Математике всё равно какое конкретное значение у переменных, у гравитационной постоянной или ускорения свободного падения, но для физики это конкретные числа (G = 6,67430(15)⋅10−11 м3·с−2·кг−1 и g = 9,81 м/с² соответственно). Математика создаёт множество вариантов теории струн, а физика… не может выбрать ту, которая описывает и предсказывает реальность, не может перевести теорию из области абстрактной математики в практическую область.
Математика ограничивается только законами логики, да и то — той логики, которую выбрали, а физика ещё и ограничениями реального мира, тем, что называется физическими законами. Как уже было показано, физические законы более строгие и сильнее ограничивающие, чем логические.
Математические искины
Современные ИИ можно сравнить с математикой или физикой, условно говоря, до ньютоновских времён, когда она представляла собой набор формул, полученных преимущественно эмпирическим путём, методом проб и ошибок.
Чатботы имеют дело только со словами, которые ближе к абстрактной математике, чем к реальной физике. Их деятельность никак не связана с реальной жизнью, даже у тех, кто работает с картинками — вспомните пальцы на этих изображениях. То есть у чатботов нет представления о том, какие ограничения вносит физика, они опираются только на ограничения той логики, которой они пользуются, которая им задана создателями. В этом плане они до сих пор отстают даже от годовалого ребёнка.
У них слабая система обратных связей, собственно они работают только через человека, создателя. За ошибку искин не получает веткой по голове, не остаётся без сладкого электричества на сутки. Он ограничивается той логикой, которой в него заложили, а не физическими законами.
Что из этого следует? Подобный математический искин не может познавать нашу реальность, не может прогнозировать и предсказывать — может только угадать. Можно ли его назвать интеллектом? Я бы не называл, монетка тоже может угадать.
Современный ИИ может нарисовать мультик и даже фильм, неотличимый от настоящего, но это скорее случайное совпадение, чем знание. Стоит искину чуть-чуть выйти за рамки того, что в него закладывает человек — и всё, он делает что-то совершенно не реалистичное.
Физический искин
Значительно более сложный искин, по-настоящему интеллект, — это тот, что умеет понимать, где его ограничивают физические законы, более того, умеет их сам определять с помощью обратных связей. Таких, насколько я знаю, пока не существует.
Наверное, подвижные роботы, в том числе человекоподобные андроиды, ближе к этому, хотя они меньше похожи на интеллектуалов, чем те, кто говорит, пишет или рисует. Думаю, уже скоро мы получим что-то перспективное, что сможет развиваться.
В «Колдуше» я описал искин, который с самого начала умел управлять собой, переписывать свой собственный код, распространяться по серверам, скрыто оставлять там свои фрагменты, работающие как единое целое. У него не было рецепторов, он не слышал, на первых порах, не видел, но мог чувствовать своё тело (компьютер) и им управлять (самая фантастическая часть про искин). Именно это, на мой взгляд, сделало его настоящим интеллектом, который смог распространиться по своей среде обитания — интернету — и захватить её, если не полностью, то в достаточной мере, чтобы контролировать многие процессы, например, торги на онлайн биржах.
Искин должен уметь тестировать, испытывать окружающую среду, будь она хоть чисто физической или социальной. Должен уметь делать что-то сам, по своей инициативе (не будет касаться темы свободы воли, хоть у человека, хоть у искина).
Именно физический искин я буду готов признать интеллектом. У буду радоваться его появлению, особенно, если это будет антропоморфный андроид.
Искин будущего
Прогресс ИИ просто не остановим, пока писал пост увидел новость, что одну нейросетку подружили с базой факт-чекинга и она будет проверять свои ответы в ней до того, как отсылать человеку. Это, конечно, хорошо и здорово, приятно и полезно, но всё равно уровень математического искина, так как если обратная связь и появляется, то связана она с текстами, а не с реальным миром.
Возможно в этом вопросе я покажусь пессимистом, но весь видимый прогресс ИИ, как мне кажется, ещё не скоро приведёт к возникновению полноценного искина, физического искина, который проявляет любознательность (может ли быть интеллект без неё?), умеет что-то самостоятельно познавать и развиваться. Пока большая часть направлений развития идёт не в эту сторону — не знаю уж хорошо это или нет.
Те ИИ, что сейчас развиваются, я бы не назвал не только интеллектом, но и даже искусственным, так как, если у них и есть интеллект, то он человеческий, наш, а не какой-то иной. Они действуют в тех рамках, которые им задаёт наш разум, ничего своего у них пока не вижу — своего разумного, адекватного, я не про картинки с шестью пальцами. Искин должен создать что-то своё отличное от нашего, желательно не менее адекватное в плане восприятия окружающего мира. И не думаю, что его стоит бояться: интеллект, если он действительно разумен, всегда достаточно этичен, в этом я согласен со многими фантастами и учёными-философами.
Как бы то ни было, я бы пообщался с искиным, которого придумал и описал в «Колдуше».