Konstantin Abramenko ([info]a_konst) wrote,
@ 2008-10-04 01:12:00
Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Искусственный интеллект и обучение.
Читаю сейчас книгу Сандры Блейксли и Джеффа Хокинса "Об интеллекте, по наводке [info]vitus_wagner.

Прочитал там об известном мысленном эксперименте Джона Сирла, "китайская комната", который он придумал в пику тесту Тьюринга на ИИ.

Этот мысленный эксперимент состоит вот в чем.

Представим человека А, знающего, скажем, только английский язык. (или русский, не суть). Он сидит в комнате, в которой находится также большая инструкция на этом языке, в которой подробно описано, как сопоставлять между собой некотрые каракули (которые на самом деле являются китайскими иероглифами и их частями, но он этого не знает, и уж тем более их не понимает).Правила описывают, как по этим закорючками подбирать соответствующие им, в зависимости от их комбинаций и взаимного расположения. Они никак не описывают смысл этих знаков, только лишь распознование, сопоставление и соответствие.

Снаружи другой человек, Б, свободно знающий китайский язык, хочет проверить, знает ли А этот язык. Он просовывает в комнату рассказ на китайском языке, с вопросами к этому тексту. В комнате человек А долго старается, мучительными усилиями сличает картинки, перерисовывает соответствующие им из инструкции, наконец отдает наружу. Инструкция составлена таким образом, что в результате получается осмысленный ответ на китайском языке на поставленные вопросы. Естественно, Б сделает вывод, что А знает китайский язык.


Этот мысленный эксперимент хорошо описывает, что такое сейчас искусственный интеллект.
Я не буду обсуждать вопрос, в какой степени этот эксперимент опровергает идею теста Тьюринга. Надеюсь, всем, знакомым с программированием, понятно, что примерно такое "понимание" текста, или вообще любой анализируемой ситуации, проявляют современные компьютеры, вплоть до известного Deep Blue, обыгравшего Каспарова в шахматы.

Но я о другом.

Мне не хватает слов, чтобы выразить свое отчаяние разочарование и недоумение, когда я наблюдаю такой вот искусственный интеллект у тех, кого я пытаюсь учить. Черт побери, я бы хотел побуждать к саморазвитию естественный интеллект у человека!

Disclaimer.
Да-да-да, этот пост вызван совершенно конкретными недавними событиями, хорошо знакомыми некоторым читателям этого дневника.

Впрочем, я думаю что у почти любого преподавателя часто бывают такие моменты.



(Post a new comment)


[info]kouzdra
2008-10-03 09:46 pm UTC (link)
Это типа когда детки напряженно смотрят в глаза и пытаются понять, угадали ли они ответ?

PS: На самом-то деле есть другой вид ИИ - когда фразы пропускаются через словарь ассоциаций, по ходу дела модифицируются и комбинируются - и в результате при удаче нарождается "умная мысль". Алгоритм программы "Элиза".

Я с какого-то момент начал его отлавливать в группах - фраза ходит по кругу и обрастает ассоциациями.

PPS: Данный пост является живой иллюстрацией этого механизма. У меня есть серьезное подозрение - что это таки и есть основной механизм человеческого мышления. А обучение состоит в том, чтобы ассоциативные словарики прогрузить чем-то не вполне тривиальным.

(Reply to this)


[info]sowa
2008-10-03 11:34 pm UTC (link)
У Вас, видимо, довольно ограниченный опыт преподавания. Похоже, что Вы столкнулись с чем-то новым для Вас. У меня это не вызывает ни отчаяния, ни удивления, а лишь желание по возможности избегать такой "преподавательской" деятельности.

(Reply to this) (Thread)


[info]a_konst
2008-10-04 04:00 am UTC (link)
Да уж, весьма ограничен. Всего лет 7, и далеко не "full-time", всего лишь около половины всего активного рабочего времени.
А за Вас могу только порадоваться, что вы (видимо?) научились избегать это.

(Reply to this) (Parent)(Thread)


[info]sowa
2008-10-04 04:53 am UTC (link)
Да я имел в виду не производственный стаж. :-) Опыт общения с роботами в качестве учеников или студентов. Мне кажется, что его у Вас было мало, иначе бы Вы не писали об отчаянии.

(Reply to this) (Parent)(Thread)


[info]a_konst
2008-10-04 06:14 am UTC (link)
Да, обычно те, кого я учу, до такого не опускаются. Но когда опускаются - становится грустно. Иммунитета еще не выработалось, и надеюсь, не выработается.

(Reply to this) (Parent)(Thread)


[info]sowa
2008-10-04 06:34 am UTC (link)
"Иммунитета еще не выработалось, и надеюсь, не выработается."

Это зависит от того, как часто Вам придется сталкиваться с такими учениками. Если часто, то иммунитет выработается. Иначе не выжить.

(Reply to this) (Parent)(Thread)


[info]a_konst
2008-10-04 02:43 pm UTC (link)
Вообще, я считаю это не свойство ученика. Это свойство того, как он в данный момент выполняет задачи конкретного класса.
У некоторых учеников (в некоторых местах - у очень многих, но я слава богу, от этих мест далеко) бывает склонность так осваивать все новые методы, но от этого можно отучить. Мне до сих пор удавалось вроде бы любого своего ученика.

(Reply to this) (Parent)(Thread)


[info]sowa
2008-10-04 10:26 pm UTC (link)
Честно говоря, для беспредметной дискуссии мы зашли слишком далеко. Для содержательного разговора надо знать, кому Вы преподавали раньше и кому - сейчас. По Вашему журналу у меня сложилось впечатление, что Вы преподавали как минимум не вполне типичным школьникам или студентам в не вполне типичной обстановке.

(Reply to this) (Parent)


[info]sowa
2008-10-04 04:54 am UTC (link)
Нет, полностью избегать нет никакой возможности.

(Reply to this) (Parent)

Однако так ли уж велик пафос?
[info]matholimp
2008-10-04 05:41 am UTC (link)
В чем состоит альтернатива? Пример с языками прекрасен тем, что допускает продолжение. Что значит, что человек знает китайский язык? Принципиально различных вариантов от силы два (с половиной): либо язык известен с детства (врожденный), либо изучен позже. Во втором случае есть качественная ступень: человек "думает" непосредственно на этом языке, а не переводит каждую фразу на родной и обратно. Подчеркиваю: слово "думает" я закавычил намеренно.
Наконец, если речь идет об искусственном языке, то родным он (пока?) не может быть в принципе.

(Reply to this) (Thread)

Re: Однако так ли уж велик пафос?
[info]igorzhukov
2008-10-04 06:32 am UTC (link)
Уже есть сотни, если не тысячи, людей, для которых эсперанто является родным.

(Reply to this) (Parent)

Re: Однако так ли уж велик пафос?
[info]a_konst
2008-10-04 02:45 pm UTC (link)
"знает чтобы переводить" и "понимает что делает" - это разные вещи.
Я ощущаю принципиальную разницу между:
а) механическим преобразованием по правилам одной абракадабры в другую и
б) пониманием, что это _текст_ на некотором разумном языке, попытками его перевести на свой и понять, после этого понимания ответить, по смыслу, на вопросы, и перевести эти ответы обратно.

(Reply to this) (Parent)


(Anonymous)
2008-10-04 06:43 am UTC (link)
Я не очень понимаю, в чем трагедия.
Вообще-то любой процесс обучения, на мой вкус, заключается в том, что человек по инструкции ("преподаватель", "книга") переводит текст с китайского ("новые знания") на английский ("имеющиеся у него знания").
Собственно новые знания не приобрести, не установив какую-то связь с имеющимися. Или беда в том, что человек переведя значок на английский не запоминает значение?... Т.е. не обогащает себя новыми знаниями?
Или - в том, что человека учат переводу, а не грамматике и "китайскому мышлению"?
Или - в том, что человек не проникся переводом?

Насколько я понимаю, если человек усваивает инструкцию по переводу (грубо говоря - запоминает ее) то он отличается от владеющего китайским ровно тем, что не способен придумать новый иероглиф (при достаточно большой и обратимой инструкции). А если дополнить инструкцию правилами создания новых иероглифов, то результат (наш человек с инструкцией и настоящий китаец) будет неотличим...

Видимо, мы хотим, чтобы наши ученики сами умели создавать инструкции... Но до того, как создавать новый англо-китайский словарь, надо хоть как-то познакомится с китайским :) Т.е. освоить эту инструкцию (словарь и основы грамматики)

ПАМ

(Reply to this) (Thread)

Я тормоз
(Anonymous)
2008-10-04 08:30 am UTC (link)
Гм, читать надо внимательнее...
Сорри, я прочитал что инструкция по переводу, а она всего лишь по преобразованию одной абракадабры в другую...
Тогда смысл статьи становится ясен.

(Reply to this) (Parent)


[info]nastasiak
2008-10-04 08:54 am UTC (link)
Событие однако! ПАМ начал не только собирать информацию в наших дневниках, но еще и комментировать ее =)
А серьезно, мне почему то кажется, что у ЕЕ тоже были такие моменты отчаяния, когда мы нифига не врубались, всем классом списывали геометрию, потому что почти никто не мог ее решить, были не в состоянии с 5 попытки посчитать производную и тп...
Кость, ИМХО, в твоем классе очень хорошие дети, не отчаивайся и не расстраивайся ты раньше времени, кажется, их просто надо отучить от "старых школьных привычек", накрученных в их предыдущих образовательных учреждениях. Наташу Вальтман тоже долго "вылечивали" от последствий не очень удачной частной школы =)

(Reply to this) (Parent)(Thread)


[info]a_konst
2008-10-04 02:48 pm UTC (link)
Пожалуй, про отчаяние я уж слишком сильно высказался. Скорее это просто ступор и временное ощущение беспомощности. Да, сейчас я вполне верю что всех их удастся отучить от такого способа "обучения".
Этот пост скорее скорее доходчивая декларация, что мне это неприемлемо, чтоб прочувствовали, как ненадо.

(Reply to this) (Parent)


[info]a_konst
2008-10-04 02:58 pm UTC (link)
Кстати, "не в состоянии с пятой попытки посчитать производную" - это по-моему несколько не о том.

Вот когда человека совершенно не удивляет, если после вычисления производной у явно периодической функции у него получается скажем всюду положительная функция, вот это хуже. (не обязательно это самостоятельно заметить, но понять, что где-то обязательно ошибка, после того как на такое указали, по-моему должно.)

(Reply to this) (Parent)


[info]arret
2008-10-04 07:51 am UTC (link)
имхо, неудовлетворенность "искусственным интеллектом" у детей это прямой стимул к совершенствованию своих перподавательских методов и скиллов. а уж "отчаяние" - и подавно
не отчаивайся :))

(Reply to this) (Thread)


[info]a_konst
2008-10-05 06:29 am UTC (link)
да-да, мы в процессе совершенствования :)

(Reply to this) (Parent)


[info]buddha239
2008-10-04 09:24 am UTC (link)
Мне кажется, что шахматы - неудачный пример; игры с четкими искусственными правилами хороши как раз для компьютеров, а не для людей, которые пытаются понять ситуацию "содержательно".:)

(Reply to this) (Thread)


[info]a_konst
2008-10-04 06:22 pm UTC (link)
Ты знаешь, есть игра с еще болеее простыми и четкими правилами - го.
Так вот для нее лучшие программы играют на уровне весьма начинающих игроков.

(Reply to this) (Parent)(Thread)


[info]buddha239
2008-10-06 09:37 am UTC (link)
Не знаю - может, в го и есть "содержательные" соображения:), насколько я понимаю, в шахматах рассуждения достаточно формальны.

(Reply to this) (Parent)(Thread)


[info]a_konst
2008-10-06 11:46 am UTC (link)
Насколько я понимаю, шахматные мастера придерживаются другого мнения, и склонны называть свою игру искусством не менее, чем мы - математику.

(Reply to this) (Parent)


[info]mere_skill
2008-10-04 11:50 am UTC (link)
К сожалению, наша система образования, как правило, стимулирует развитие именно "искусственного" интеллекта. И про "деток, смотрящих в глаза" из первого комментария - тоже в тему.
Хорошо еще, что есть энтузиасты, заставляющие людей думать!

(Reply to this)


[info]ettta
2008-10-05 10:30 am UTC (link)
Может надо создать атмосферу в которой они будут хотеть учиться, имхо многие школьные правила это желание только отбивают и создается впечатление, что ты это не для себя делаешь, а для учителя. Надо вообще как-нибудь это обсудить.

(Reply to this) (Thread)


[info]nastasiak
2008-10-05 11:26 am UTC (link)
Даш, я тебя разочарую, но по огромному преподавательскому опыты, накопленному сквозь поколения в нашей семье - невозможно создать обстановку, в которой более 10-15% будут хотеть учиться. Это желание может и придет, но позже, с возрастом, скорее в Универе.

(Reply to this) (Parent)(Thread)


[info]a_konst
2008-10-05 01:35 pm UTC (link)
мои наблюдения этому противоречат.
или мы по-разному понимаем выражение "хотеть учиться".

(Reply to this) (Parent)


[info]a_konst
2008-10-05 01:34 pm UTC (link)
Во-первых, это не атмосфера, это вопрос внутреннего мировоззрения каждого по отдельности. Атмосфера - это отношение от коллектива к тем, кто учится. У нас оно вроде нормальное, "задвинутыми ботаниками" никто никого не считает.

Сделать так, чтоб сами захотели _понять_ - в каждом конкретном случае можно, но когда на потоке и массово, то это бывает трудно.
Зачем можно захотеть понять? Либо потому что это приятно/интересно/прикольно само по себе, либо потому что это открывает дорогу к сияющим вершинам.
Скажем, можно, и даже наверное с энтузиазмом, играть гаммы и этюды для того чтобы научиться играть сонаты Бетховена - послушав их исполнения мастерами. Что-то аналогичное можно попытаться изобразить и у нас, и мы иногда пытаемся.

(Reply to this) (Parent)


[info]raydac
2008-10-21 07:23 am UTC (link)
Конфуций: Я всем даю советы, и мне достаточно за это связки вяленого мяса. В пятнадцать лет я ощутил стремление учиться; в тридцатилетнем возрасте я утвердился; достигнув сорока, освободился от сомнений; в пятьдесят познал веление Неба; в шестьдесят мой слух обрел проникновенность; с семидесяти лет я следую желаниям сердца, не нарушая меры.

(Reply to this)


Create an Account
Forgot your login or password?
Login w/ OpenID
English • Español • Deutsch • Русский…