Telegram-канал «Заметки на полях»: Реально мыслящего ИИ никогда не будет

По поводу всех современных страхов о возрастающем могуществе искусственного интеллекта известный философ Дж. Серль высказался еще в 1980 году, однозначно заявив, что создание «сильного» искусственного интеллекта (который бы на самом деле осознавал приходящие ему вопросы, а не имитировал человеческое мышление) нам не грозит.

Убедить в этом всех он решил при помощи мысленного эксперимента, описанного в знаменитой работе «Сознание, мозг и программы». Эксперимент получил название «Китайская комната».

Суть его примерно следующая.

В комнату помещается человек А, абсолютно ничего не понимающий в китайских символах, но знающий английский язык. В его распоряжении находятся три корзины с «данными»: в первой — текст (рукопись) на китайском языке; в следующей — китайские символы и правила на английском, позволяющие сопоставить первую корзину со второй (рассказ); в последней — еще один набор правил на английском для сопоставления первых двух корзин с третьей (вопросы).

Собеседник B, находящийся вне комнаты и свободно разговаривающий по-китайски, посылает вопросы, на которые получает соответствующие ответы из комнаты.

Путем простого оперирования символами трех корзин A сможет выдать логически верные ответы на вопросы B относительно одного из рассказов. Таким образом, A пройдет тест на знание языка, легко убедив в этом своего собеседника, хотя и не понимает ни одного знака в наборе китайских иероглифов.

Теперь представьте современный компьютер C и поместите его на место человека А. Результат, очевидно, будет ровно таким же.

Этот эксперимент Серль использовал как аргумент против какой-либо возможности существования сильного искусственного интеллекта. Следовательно, возможен только слабый искусственный интеллект, суть которого заключаются в простом моделировании человеческой деятельности.

Следуя этой логике, существующие сегодня апокалиптические сценарии и связанные с ними страхи больше походят на ночные кошмары луддитов.

А как вам аргумент? Убедительно?

Telegram-канал «Заметки на полях»