Модель мышления

Ведение

В данной работе будет сделана попытка описания модели искусственного интеллекта. Здесь будет изложен новый способ организации нейронных сетей. Будет описано, что такое ощущение, представление, как и когда соединяются нейроны, зачем нейроны возбуждают и тормозят друг друга, как реализуется в нейронах индукция и дедукция, как происходит умозаключение. Эту задачу нельзя решить частично, ее нужно охватить целиком, тогда все и встанет по своим местам.

Приводимая здесь модель не основывается на персептроне предложенной Розенблаттом. Да, модель прекрасна! Распознает образы и чем больше слоев, тем она это делает лучше. Все что надо только сделать, эта расставить веса между соединениями нейронов. И все в порядке! Но возникает вопрос, какой орган в организме специализируется на этом? В чем эта математическая точность? И не ясно, почему развитие искусственного интеллекта пошло этим путем. Поэтому в этой работе предложен новый подход к этой задаче.

Эта работа только описывает, как работает искусственный интеллект, создать его реально пока очень сложно. Наука не готова еще к этому. Пока люди только изучают свойства клеток, и модифицируют уже существующие, но еще не кому не удалось создать клетку располагая только набором химических элементов.

Что известно науке на сегодняшний день.

Давайте посмотрим, чем располагает наука в этой области на сегодняшний день:

Поподробнее остановимся на механизме возбуждение нейрона. При активации нейрон посылает электрохимический сигнал по своему аксону. Через синапсы этот сигнал достигает других нейронов, которые могут в свою очередь активироваться. Нейрон активируется тогда, когда суммарный уровень сигналов, пришедших в него из дендритов, превысит определенный уровень (порог активации). Каждый синапс имеет протяженность и специальные химические вещества, передающие сигнал вдоль него. Нейроны могут друг друга взаимно как активировать, так и тормозить.

Посмотрим, что известно науке логике о мышлении. В ней говорится, что процесс познания начинается с ощущений. Ощущения представляют собой отражение отдельных свойств предметов и явлений окружающего мира. На основе ощущений создается восприятие, где предметы и явления отражаются в целом. Когда мы вспоминаем, о каких либо предметах или явлениях в нашей памяти возникают образы ранее воспринимавшихся предметов. Эти образы называются представления. На основе ощущений, восприятий и представлений формируются признаки предметов или явлений. Перенос признака одного предмета или явления на другой называется мышлением. Главные элементы мышления дедукция и индукция.

Дальше можно не углубляться, для понимания основных принципов искусственного интеллекта этого достаточно, главное все это объединить и увидеть ситуацию в целом.

Как отражается ощущение, восприятие, представление в нейронах.

Для понимания этого обратимся к повседневной жизни. Рассмотрим ситуацию лечения зубов в стоматологическом кабинете. Предположим у пациента пульпит. Что бы он не чувствовал боли ему делают местную анестезию (при помощи новокаина или чего то еще). Что происходит? Человек перестает ощущать боль, чувствительные нейроны реагирующие на боль заблокированы. Можно сделать вывод, ощущение это возбуждение чувствительных нейронов. Другой пример: человек болен с рождения аносмией – отсутствие обоняния, такому человеку, как бы мы не хотели, не объяснить что такое запах апельсина или цветов. Для человека без патологий, к примеру, сладкое – это возбужденная группа рецепторов реагирующих на сладкое. То же самое и с другими явлениями, синий цвет – это возбужденная некоторая группа чувствительных нейронов возбуждаемых на синий цвет, зуд – это возбужденные рецепторы кожи. Рассмотрим теперь, что такое восприятие. Пусть это будет, восприятие снега человеком. Выделим его основные признаки: холодный, белый. Дадим его человеку. Что произойдет? У человека возбудятся чувствительные нейроны, реагирующие на холодное и на белый цвет. Так возникло восприятие снега, заключенное в двух группах нейронов. Получается, что живое существо, в частности человек - это набор множества групп нейронов, где каждая группа реагируют на определенный раздражитель и несет своеобразное чувство. Речь, боль, зрение, обоняние, слух – это все возбуждение какой-то определенной группы нейронов. Теперь рассмотрим что такое представление. Возьмем тот же пример со снегом. Для нашего человека представление о снеге – это возбужденные группы чувствительных нейронов реагирующих на холодное и белое при его отсутствии. Как это реализуется при помощи нейронов, будет указано ниже, после описания соединения нейронов.

Почему в нейронах эти чувства, пока не ясно, но описание множества болезней (Аносмия, Ахроматопсия и др.), да и многое другое указывает на то, что это так. К этому нужно относиться так же, как мы относимся к электричеству, к магнетизму, к атомам, как к основе мира. Это какая то неизвестная материя или что-то еще. Скорее всего, чувства можно объединить в таблицу, похожую на таблицу Менделеева, но это не цель данной работы.

Как не обидно, но реальный искусственный интеллект не реализовать на сегодняшнем ЭВМ, здесь нужны чувства, а в ЭВМ их нет, да и архитектура компьютера мало подходит для этого. Хотя без особого усилия можно смоделировать на компьютере или создать электронный искусственный интеллект, своим поведением напоминающим настоящий, но реально он будет бесчувственный.

.

Соединение нейронов.

Разберемся, как группы нейронов в процессе жизнедеятельности соединятся друг с другом. Для этого обратимся к школьному курсу биологии и вспомним опыт Павлова с собакой. Как Павлов вырабатывал рефлексы? Перед кормлением звучал звонок, а после давалась еда. Когда звучал звонок, а пищу не давали, то у собаки наблюдалось повышенное слюноотделение. У нее включились в обработку нейроны, отвечающие за переработку пищи, хотя пищи не было. Был выработан рефлекс. Значит, как-то нейроны, реагирующие на звук, стали возбуждать нейроны, отвечающие за пищеварение. Здесь первое, что приходит в голову, аксоны и дендриты этих нейронов соединились. Отсюда можно предположить нейроны после своего возбуждения соединяются друг с другом. И не надо вычислять веса этих связей, как-то соединились ну и хорошо. Что с чем соединилось аксон с дендритом, дендрит с дендритом не важно, главное соединение (рис.1).

Рис.1

И нельзя не согласиться с Павловым, что мышление человека это рефлексы. Просто к этому нужно добавить чувства. Рассмотрим этот опыт со стороны науки логики. Что для собаки Павлова еда? Это возбуждение групп нейронов: вкусовых рецепторов, некоторых групп рецепторов зрения и запаха, нейронов реагирующих на звук звонка. Что следует после того, как не дали еду специально обученной этому собаке? Группы нейронов реагирующих на звук начинают возбуждать группы нейронов вкуса, зрения и всех других групп, которые с ней связаны. Вот оно и представление! У собаки возбудились группы нейронов реагирующих на пищу, при ее отсутствии.

Так же это подтверждает опыт, проведенный на двух группах крыс. Одних оградили от всевозможных раздражителей, а других наоборот «замучили» раздражителями: включали свет, заставляли искать еду и т.д. После анализа их мозга установили, что у крыс первой группы связей между нейронами было намного меньше, чем у крыс второй группы.

Последовательность мышления

Во многих статьях об искусственном интеллекте делается допущение о том, что человек мыслит параллельно. Но в модели искусственного интеллекта, представленной здесь, будет предполагаться, что мышление последовательное. Предполагается, что группы чувствительных нейронов боли, вкуса и других блоков не могут быть одновременно возбужденными, что их возбуждение поочередно сменяет друг друга. Это предположение сделано из наблюдений и из созданной модели искусственного интеллекта. Параллельная схема мышления не получается. Получается какой то судорожный интеллект. Хотя может быть, кому ни будь и удастся смоделировать параллельную схему. На то, что мышление последовательное, также указывает такое наблюдение: если человеку дать сладкую конфету, а после кусочек черного перца, человек будет чувствовать только горечь, ему будет не до конфеты, он про нее забудет. Нейроны, отвечающие за вкус горького, заблокируют нейроны, отвечающие за вкус сладкого.

Лестница приоритетов. Взаимное торможение групп нейронов.

Рис.2

Линии между блоками – это тормозящие связи между блоками нейронов. Блок Запах-1 блокирует блок Запах-2, на схеме они объединены воедино для наглядности. Из рис. 2 видно, что при одновременном возбуждении блока Запах-1 и Боли, блок Боли заблокирует блок Запах-1. Также и с другими блоками. Для нормальной работы схемы тормозные нейромедиаторы должны обладать следующими свойствами: очень быстро распадаться и при активации какого либо блока они должны постоянно выделяться. Иначе схема будет в стопоре, она не заработает пока тормозные нейромедиаторы не распадутся. Забегая вперед, следует сказать, что почти все возбуждающие нейромедиаторы должны обладать противоположными свойствами: выделяться порциями, медленно распадаться до возбуждения и быстро распадаться после возбуждения, но нужны и нейромедиаторы обладающими такими же свойствами как тормозные нейромедиаторы.

В этой схеме есть недостаток. При слабой боли и сильном Запахе-1 будет возбужден блок Боли, что мало приемлемо для выживания организма. Поэтому эту схему необходимо дополнить. Более сложная и подробная схема лестницы приоритетов с обратной блокировкой, показана на рис. 3, для легкости восприятия она состоит из трех чувствительных блоков. Большее количество блоков соединяется по этому же принципу.

Рис. 3

Для работы схемы важно подобрать порог возбуждения блоков нейронов. Блоки торможения БТ1, БТ2, БТ4 должны иметь высокий порог возбуждения. Они должны активироваться, только если большое количество соответствующих им рецепторов активировано. Блоки БТ3, БТ5, должны всегда активироваться, когда активировался их чувствительный блок (должен быть низкий порог возбуждения). Рассмотрим основные варианты, которые могут возникнуть при работе схемы.

Есть еще варианты, но в любом случае всегда будет возбужден блок, у которого рецепторы возбуждены сильнее, а при сильном возбуждении нескольких групп рецепторов будет возбужден чувствительный блок, приоритет которого выше.

Полная схема простейшего искусственного интеллекта и описание его мышления.

Наделим нашего жука блоком Хватания пищи (аналогия рта человека, но сильно упрощенный), Желудком, где будет находиться пища и откуда будут идти сигналы в блок Потребности пищи и блокам Движения, пусть это будет жгутик, как у амебы. Блок Удовольствия расположим во рту, пусть это будут вкусовые рецепторы. Изобразим все это на схеме представленной, на рис. 4.

Рис. 4

Эта схема новорожденного жука. В ней уже установлены некоторые соединения между блоками. Красные линии указывают возбуждающее соединение между нейронами, а черные линии тормозящее. Опишем безусловные рефлексы, которыми обладает наш жучок при рождении. Если желудок пуст, то начинает двигаться жгутик (возбуждается блок нейронов движения), жучок начинает искать пищу. Блок Движений не наделен чувствительными нейронами, хотя в более сложных моделях на нем можно расположить нейроны боли, а то жук не почувствует воздействия на жгутик и останется инвалидом. Если желудок полный, то блок Движения блокируется, зачем бессмысленно тратить силы. При возбуждении блока Боли, активизируется блок Движения, жучок должен избегать боли, его главная задача жить. На блоке Хватания пищи расположим нейроны боли и удовольствия. При попадании в этот блок невкусной пищи будет возбуждаться блок Движения и жучок будет пытаться уйти от невкусного. При попадании в рот вкусной пищи, будут возбуждаться нейроны удовольствия, и блок Движения будет блокироваться. Жучок постарается продлить свое наслаждение. Блоки Запаха и Цвета не соединены, они пока ни с чем не ассоциируются. У жука нет органов глотания, пища сразу попадает в желудок.

Смоделируем для жука окружающую обстановку и посмотрим, как будут устанавливаться связи между блоками нейронов по мере познания окружающего мира. Пусть у нас будет 6 видов пищи. Та пища, которая будет обладать запахом –1, будет всегда вкусная вне зависимости от цвета, а с запахом – 2 в зависимости от цвета то вкусная то нет.

1. Запах-1, Цвет-1 - вкусная пища (З1-Ц1).
2. Запах-1, Цвет-2 - вкусная пища (З1-Ц2).
3. Запах-1, Цвет-3 - вкусная пища (З1-Ц3).
4. Запах-2, Цвет-1 - невкусная пища (З2-Ц1).
5. Запах-2, Цвет-2 - вкусная пища (З2-Ц2).
6. Запах-2, Цвет-3 - невкусная пища (З2-Ц3).

Выпускаем жука. Что происходит? Желудок пустой он начинает работать жгутиком. Рот совершает хватательные движения постоянно. Жук же младенец, все тащит в рот. Рот активируется при помощи двигательных нейронов, не участвующих в мышлении. Даем ему пищу З1-Ц1. Возбуждается блок Запах-1, как только нейроны этого блока начнут восстанавливаться после возбуждения, возбудятся нейроны блока Цвет-1. В это время срабатывает рот, пища попадает в желудок, где расположены рецепторы блока Удовольствия и Боли. У жука возбуждаются нейроны удовольствия, в результате жгутик блокируется, желудок наполняется и жук переходит в сытое состояние. Рассмотрим на рис. 5 связи, появившиеся в результате первого познания мира.

Рис. 5

В результате первого познания были возбуждены следующие блоки: Запах-1, Цвет-1 и блок Удовольствия. Соответственно между ними установились связи, где-то слабые, где-то посильнее, неважно. Что произойдет с жуком, когда он в следующий раз встретит эту же пищу второй раз. У жука возбудиться блок Запах-1, который возбудит или блок Цвет-1 или блок Удовольствия. Среди этих двух блоков произойдет соперничество по схеме «лестница приоритетов с обратной блокировкой», победа будет зависеть от того, какие связи были установлены, и как сильно воздействует на жука Цвет-1. Но даже если следующим возбудиться блок Цвет-1, то все равно следующим активируется блок Удовольствия, еще до того как в него попадет пища. Вот она и память! Жук почувствовал вкус удовольствия, не попробовав пищи.

Дадим жучку теперь невкусную пищу З2-Ц1. Пока жук сыт, он не будет проявлять признаков движения, поэтому необходимо дождаться, когда его желудок освободиться. Допустим, желудок свободен, даем З2-Ц1. Возбуждается блок Запах-2, затем цвет-1. Блок Цвет-1 связан с блоком Удовольствия, это ускоряет процесс открывания рта. Это уже мышление, если у первой пищи Цвет-1 и это вкусно, то и у другой пищи с таким же цветом, должен быть тот же вкус.

Жук хватает пищу и тут чувствует, что это невкусно. У него возбуждается блок Боли, что активирует блок Движения, блокируется рот, и жук уходит от пищи. Новые связи представлены на рис.6

Рис.6

Не следует забывать, что в повседневной жизни когда, к примеру, мы видим стол, то вначале мы можем увидеть ножку стола, а только затем его целиком. Все зависит от формы хрусталика глаза в этот момент и удаленности стола. Так и здесь, приоритет у запаха выше, чем у цвета, но блок цвета может возбудиться раньше, т.к. допустим, цвет распознается с более дальнего расстояния, чем запах.

Что произойдет с нашим жуком, если он в следующий встретит пищу З1-Ц1 или З2-Ц1? Пусть он вначале увидел Цвет-1, этот блок связан с болью и удовольствием, поэтому жучок, скорее всего, убежит, так как приоритет боли выше. Но многое зависит от количества и веса связей. Рассмотрим второй вариант: жук почуял Запах-1. Блок Запаха-1 начнет возбуждать блок Удовольствия и блок Цвет-1. Блок цвет-1 начнет возбуждать блок Боли и блок Удовольствия. В блоке Удовольствия будет возбуждено намного больше нейронов, чем в блоке Боли, поэтому исходя из лестницы приоритетов с обратной блокировкой, он заблокирует блок Боли и у жука активируется рот. Жучок теперь знает, что З1-Ц1 это «вкуснятина», а З2-Ц1 лучше не трогать. Он это понял с первого раза.

Дальнейшее обучение жука можно не объяснять, оно аналогично, а сразу перейти к окончательной схеме рис. 7

Рис. 7

Более толстые красные линии указывают на более сильное соединение, возникающее при неоднократном повторении какого либо обучения.

Посмотрим, чему же научился наш жучок. Будем давать ему уже испробованную им пищу. Даем З1-Ц1, смотрим на рис.7: у этих блоков связей с блоком Удовольствия намного больше, чем с блоком Боли. Исходя из лестницы приоритетов с обратной блокировкой, блок Удовольствия заблокирует блок Боли, жучок почувствует удовольствие и постарается съесть пищу. Даем З1-Ц2: здесь только связи с блоком Удовольствия, следовательно, у жука даже при полном желудке может заработать блок Хватания пищи. Даем З1-Ц3: связей с блоком Удовольствия больше, блок Захвата пищи может заработать. Даем З2-Ц1: связей с блоком Боли намного больше, жук работает жгутиком и отходит. Даем З2-Ц2: связей с блоком Удовольствия больше, может активироваться блок Захвата пищи. Даем З2-Ц3: связей с блоком Боли больше, жук уходит от пищи. Обучение жука прошло успешно, он распознает все с первого раза.

Для лучшего распознавания предметов нужно использовать более большое количество блоков. Добавлять больше запахов, тактильные ощущения и т.п. При малом количестве блоков может возникнуть ситуация, что при сильном ощущении боли, какой либо блок всегда будет возбуждать боль, что будет мешать адекватному представлению об окружающем мире. Это очень примитивная модель, она описывает только основы мышления.

Предвозбуждение, дедукция и индукция, умозаключение.

Для более ясного понимания того, как реализуется индукция и дедукция при помощи нейронов, создадим небольшую схему. Возьмем для нее следующие группа нейронов: две группы нейронов реагирующих на свет (синий и красный), две группы нейронов осязания, две группы нейронов обоняния, четыре группы нейронов звука, две группы нейронов реагирующих на сладкое. Добавим сюда Желудок и блок Действия. Расставим в схеме безусловные рефлексы,

пусть пустой Желудок и блок Сладкого возбуждает блок Действия (хватание пищи). Все это изобразим на рис.8

Рис. 8

Начнем обучать схему. Для этого возьмем два виртуальных объекта. Первый будет иметь три стороны и при попадании в Желудок возбуждать блоки Сладкого. Первая его сторона будет в схеме возбуждать блок цвета синего «С» вторая блок Осязания «О1», третья блок Обоняния «Т1». После поднесения к схеме, какой либо стороной виртуального предмета будем последовательно возбуждать два блока нейронов звука H1,H2. А после возбуждения блока Синего позволим схеме захватить пищу и этим самым установить связь между блоком Синего и Сладкого. Второй объект пусть также имеет три стороны. Первая его сторона возбуждает блок Синего «С», вторая блок Осязания O2, третья Обоняния «Т2» После поднесения второго объекта какой либо стороной, будем возбуждать блок нейронов Звука H3,H4. Обученная схема представлена на Рис.9.

Рис. 9

Посмотрим где в схеме индукция. Блок H3,H4 можно возбудить тремя способами: возбуждая блок Синего «С», возбуждая блок Осязания «О2» или блок «Т2». Это и есть индукция, от частного к общему. Блок H3,H4 являются общими для блоков «С», «О2», «Т2».

Переходим к дедукции. Возбудим блок H3,H4, они связаны с блоками «С», «О2», «Т2». Блоки «С», «О2», «Т2» перейдут в предвозбужденное состояния. Но не дадим ни одному из них возбудиться, возбудив блок нейронов H1,H2. Блоки нейронов «С», «О1», «Т1» также перешли в предвозбужденное состояние. Но так как блок Синего «С» связан и с H1,H2 и с H3,H4, то следующим возбудиться он. Этот блок связан с блоками Сладкого. А блоки Сладкого с блоком Движения (безусловный рефлекс). Схема попытается схватить пищу, даже если в желудке есть пища. Общий блок Н1,Н2 возбудит блок Синего «С». Вот она и дедукция! Если в схеме позволить соединяться блокам Звука с блоками Сладкого, то возникнет ситуация, что блок H1,Н2 или блок Н3,Н4 будут возбуждать блок Сладкого, хотя непосредственно этому схему не обучали. Схема к такому заключению пришла самостоятельно. Не умозаключение ли это?

Рассмотрим умозаключение более подробно. Согласно дисциплине логике, умозаключением называется такой прием мышления, посредством которого мы из некоторого исходного знания получаем, выводное знание. Другими словами, если А=В, В=С то следовательно А=С. Реализуем это при помощи нейронов. Создадим небольшую схему. Она будет состоять всего из четырех блоков: двух блоков Осязания (О1, О2), одного блока Желтого цвета (Ж), одного блока Звука Н1. Блок Н1 соединим с блоком О1 и блоком Ж. Блоки О1 и О2 соединим с блоком Ж. Соединения О1-Ж и О2-Ж растянем во времени, для того чтобы блоки О1 и О2 не соединились между собой. Изобразим полученные соединения на рис. 10.

Рис. 10

Возбуждаем блок Н1, блоки Ж и О1 переходят в предвозбужденное состояние. Следующим шагом возбуждаем блок О2, он возбуждает предвозбужденный блок Ж который возбуждает предвозбужденный блок О1. В результате блоки О1 и О2 соединятся. То есть если О1=Ж, Ж=О2, то О2=О1. Как в реальной жизни, одна мысль сменила другую, но оказала воздействие на последующею мысль. Мысли не существуют сами по себе, они связаны друг с другом.

Схема использования одних и тех же групп нейронов в разных понятиях. Оптимизация использования нейронов.

В речи человека много слов, но все эти слова создают из определенных звуков. Из комбинаций этих звуков создаются слова из слов предложения. В разных языках звуки классифицируются по своему, в русском языке они разделены на 33 буквы, в английском на 26, в других на другое количество букв. Но в любом языке количество букв и соответствующих им звуков намного меньше, чем слов. Прекрасная оптимизация! Ниже будет приведена модель, при помощи которой будет сделана попытка объяснить как при помощи нейронов и их связей можно достичь подобной оптимизации. Возьмем для нашей модели следующие блоки: восемь блоков реагирующих на звук (пусть это будут звуки соответствующие буквам к, р, о, т, а, б, л, п), два блока реагирующих на свет (желтый, синий), и три блока запаха (h1,h2,h3). Высший приоритет дадим блокам звука, следующий цвету, низший запаху. Обучим модель трем словам: крот, краб, клоп. В словах «крот» и «краб» одинаковая последовательность части букв – кр, а в словах «крот» и «клоп» одинаковые буквы «к» и «о». Это и лежит в основе оптимизации. Пусть слову «крот» соответствует возбуждение групп нейронов Синего и Запаха h1 (понятие-1), слову «краб» блок Синего и Запаха h2 (понятие-2), слову «клоп» блок Желтого и Звука h3 (понятие-3). Обучим схему и представим ее на рис.11.

Рис.11

Давайте теперь посмотрим поведение схемы при воздействии на не¨ словами, без подкрепления воздействия светом и запахом. Произносим слово «крот». Первым возбуждается блок, отвечающий за букву «К». Следующим мог бы возбудиться блок Синего, но не успеет, блок буквы «Р» ему не даст. Дальше аналогично. Посмотрим суммирующие связи всего слова «крот», блок Синего предвозбуждался 6 раз, Желтый 2 раза, h1 – 4, с h2 – 2, с h3–2. Следовательно, возбудиться блок Синего, а за ним блок h1(понятие-1). Берем следующее слово «краб». Смотрим суммирующие связи слова «краб», Синий – 6, Желтый – 1, h1 – 2, h2 – 4, h3–2. Возбудятся блоки Синего и h2 (понятие-2),. Переходим к последнему слову «клоп», его суммирующие связи, Синий – 2, Желтый – 4, h1 – 2, h2 – 1, h3–4. Возбуждаются блоки Желтого и h3 (понятие-3). Достигнут требуемый результат. Схема обучилась.

Работа данной схемы рассматривалась без критических ситуаций. При сильном воздействии на какой либо блок, ее очень легко сделать «глупой». Допустим, блок буквы «к» сильно соединить с блоками Желтого и h3. Тогда при произношении любого слова схема будет давать один и тот же ответ. Реальные живые организмы защищены от этого большим количеством разнообразных блоков, но эта защита все равно не стопроцентная. Также при большом количестве похожих воздействий схема начнет путаться и стараться выдать один и тот же ответ. Возможно, это и лежит в основе ослабления интеллектуальных способностей с возрастом.

Заключение.

Эта модель не претендует на полную аналогию работы реальной нервной системы, хотя строилась из данных известных на сегодняшний день о ней. Возможно, в реальной нервной системе применены другие приемы организации нейронов, но основные принципы мышления скорее всего те же.

Перечислим основные принципы мышления, согласно предложенной модели искусственного интеллекта:

1. Чувствительные нейроны определяют сознание;
2. После возбуждения нейроны соединяются;
3. Нейроны подразделяются на группы с определенным приоритетом;
4. Одни и те же группы нейронов могут лежать в основе многих понятий.

Литература.

1. Урываев Ю. В., Рылов А.Л. Проникая в тайны мозга. М.: Сов. Россия, 1986

2. «Логика» Под редакцией Д.П. Горского и П.В. Таванца