Справка - Поиск - Участники - Войти - Регистрация
Полная версия: Вычислительная мощность человеческого мозга
Частный клуб Алекса Экслера > Наука и техника
Страницы: 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43
homo sapiens
26 апреля 2013, 12:55

Rendom написал:
Потому что думать надо. А требуется процесс "обратный" думанию.

А по моему все решается гораздо проще. Действительно думать надо, но не мозгу, а людям, которые этот мозг изучают. Проще говоря они сами не знают, почему мозгу нужен именно процесс сна.
P.S. На счет думанья. Ученым известно, что во сне примерно каждые 1,5 часа возникает эрекция (и это не связано, как многие обычные люди полагают, с эротическими снами). Так вот, какая интересно тут связь с процессом думания.
v-groove
26 апреля 2013, 13:55

homo sapiens написал:
А по моему все решается гораздо проще. Действительно думать надо, но не мозгу, а людям, которые этот мозг изучают. Проще говоря они сами не знают, почему мозгу  нужен именно процесс сна.
P.S. На счет думанья. Ученым известно, что во сне примерно каждые 1,5 часа возникает эрекция (и это не связано, как многие обычные люди полагают, с эротическими снами). Так вот, какая интересно тут связь с процессом думания.

Ты часом не сторонник т.н. "теорий разумного замысла"? Ну или считаешь таковые как минимум равнозначными для рассмотрения наряду с разными вариантами эволюционных теорий. Вопрос без подтекста и желания поддеть. Если да, то разговаривать будет изначально бессмысленно, ибо будут различаться понимание самых базовых принципов, на которых построены все последующие рассуждения. Никто друг друга не услышит и каждый останется при своем мнении (пока не придут о соглашении об этих базовых принципах). Если нет, то может в новый тред, а то происхождение сна и уж тем более ночных эрекции, это, на мой взгляд, совсем уж от темы текущего треда далеко.
homo sapiens
26 апреля 2013, 14:06

v-groove написал:
Ты часом не сторонник т.н. "теорий разумного замысла"? Ну или считаешь таковые как минимум равнозначными для рассмотрения наряду с разными вариантами эволюционных теорий. Вопрос без подтекста и желания поддеть. Если да, то разговаривать будет изначально бессмысленно, ибо будут различаться понимание самых базовых принципов, на которых построены все последующие рассуждения. Никто друг друга не услышит и каждый останется при своем мнении (пока не придут о соглашении об этих базовых принципах). Если нет, то может в новый тред, а то происхождение сна и уж тем более ночных эрекции, это, на мой взгляд, совсем уж от темы текущего треда далеко.

Нет, я не сторонник разумного замысла. Я лишь хочу показать, что современная наука о мозге почти ничего не знает, но уже появляются люди, которые заявляют, что через 10-20 лет мы создадим ИИ, так как США выделило на это n-миллиардов долларов.
Rendom
26 апреля 2013, 14:48

homo sapiens написал: Нет, я не сторонник разумного замысла. Я лишь хочу показать, что современная наука о мозге почти ничего не знает, но уже появляются люди, которые заявляют, что через 10-20 лет мы создадим ИИ, так как США выделило на это n-миллиардов долларов.

Что нужно знать о мозге для создания ИИ? Тут живой организм, там неживой компьютер. Совсем ничего общего.
homo sapiens
26 апреля 2013, 14:56

Rendom написал:
Что нужно знать о мозге для создания ИИ? Тут живой организм, там неживой компьютер. Совсем ничего общего.

Во-первых, часть денег выделена на моделирование мозга. Во-вторых, единственным работающим интеллектом является человеческий мозг. Поэтому для меня кажется логичным, что прежде чем создавать ИИ хотелось бы понять, а как работает биологический мозг. Это не значит, что ИИ должен быть таким же как мозг, самолет превосходно летает, хотя принцип его полета не птичий. Во всяком случае мы понимаем физические законы управляющие полетом птиц и самолетов. На счет принципов работы мозга я в этом не уверен.
Rendom
26 апреля 2013, 15:14

homo sapiens написал: Во всяком случае мы понимаем физические законы управляющие полетом птиц и самолетов. На счет принципов работы мозга я в этом не уверен.

Моделирование - один из способов понять и сформулировать эти законы.
homo sapiens
26 апреля 2013, 15:24

Rendom написал:
Моделирование - один из способов понять и сформулировать эти законы.

Я не против выделения денег. Это хорошо. Исследования - это тоже хорошо, исследования приближают нас к пониманию, но не нужно делать таких громких заявлений, что в течении ближайших 20 лет мы создадим ИИ (таких заявлений в последнии 50 лет и так было сделано не мало). Я лично скептически отношусь к таким заявлениям.
Rendom
26 апреля 2013, 16:23

homo sapiens написал: Я лично скептически отношусь к таким заявлениям.

А ты кто?
homo sapiens
26 апреля 2013, 16:49

Rendom написал:
А ты кто?

А ты?
Голубая Собака
26 апреля 2013, 17:35

Rendom написал:
А ты кто?


homo sapiens написал:
А ты?

Мой вклад в беседу: Кто здесь???

Вот и поговорили biggrin.gif

[Интересно, как скоро у компьютера, который будет пытаться по этому диалогу научиться разговаривать человечьим языком, перегреются микросхемы?]
Crux
26 апреля 2013, 17:40
"Проще говоря они сами не знают, почему мозгу нужен именно процесс сна".

Да-да, и почему он не нужен мозгу людей, которые способны обходиться без сна?
Голубая Собака
26 апреля 2013, 17:46

Crux написал: Да-да, и почему он не нужен мозгу людей, которые способны обходиться без сна?

Интересно, а таких людей много?
(что-то мне подсказывает, что погоду они не делают... ну наберется в мире сколько-то десятков неспящих против 7 миллиардов, которые регулярно, каждый вечер - в люлюку и баиньки)
Crux
26 апреля 2013, 18:04
Голубая Собака - а статистика разве что-то доказывает в этом случае? Тезис ведь был - что мозгу НУЖЕН процесс сна. Нет, не нужен. Не обязателен. То, что вы ищете, чем бы оно ни было, следует искать в другом месте.
Rendom
26 апреля 2013, 18:13

homo sapiens написал: А ты?

А что я? Я никого не критикую. Так только, прописные истины транслирую. Так что в этом смысле я - никто.
v-groove
26 апреля 2013, 18:22
Вообще говоря, корректно зафиксированный с научной точки зрения рекорд, в течении которого человек обходился без сна, это порядка 11 дней. Все остальные сообщения о людях, обходящихся без сна годами и т.д. не подтверждены и скорее всего банальные газетные утки.
Rendom
26 апреля 2013, 18:23

Crux написал: Тезис ведь был - что мозгу НУЖЕН процесс сна. Нет, не нужен. Не обязателен.

Таких неспящих людей на опыты надо приглашать. В поликлинику. Результаты опытов наверняка общедоступны.
Голубая Собака
26 апреля 2013, 18:36

Crux написал: Голубая Собака - а статистика разве что-то доказывает в этом случае? Тезис ведь был - что мозгу НУЖЕН процесс сна. Нет, не нужен. Не обязателен. То, что вы ищете, чем бы оно ни было, следует искать в другом месте.

Ну как бы... если смотреть по той самой статистике - выходит что да, сон человеку всё-таки нужен. Потому что подавляющее большинство человеков спит, спало и будет спать. Что кто-то из этих 7 миллиардов не спит - по нему можно изучать отклонения от статистической нормы. Ну и может быть - как они дошли до жизни такой. Всё равно сам тезис останется тем же - человеческому мозгу сон таки нужен, потому что это справедливо для подавляющего большинства человеков.

(где-то давным-давно читала, что и с неспещими не все так просто, что якобы те же процессы, которые у всех остальных происходят во сне, у неспящих размазаны по всему их периоду бодрствования... все те же фазы сна у них тоже бывают, но урывками, с какой-то другой периодичностью, и без полного отключения человека... Вот и неизвестно, что лучше - 8 часов полноценного сна, когда мозги точно не занимаются ничем "общественно-полезным", или периодическое подвисание с непонятным науке графиком, по непонятным правилам, когда непонятно чем в то же время занимаешься... Хорошо, если у телека кемаришь... а если машину ведешь?)
Martin
27 апреля 2013, 10:04

homo sapiens написал:
Если бы все решалось деньгами. Проблема в том, что деньги лишь дополнение к научным мозгам и теориям, если нет подходящей научной теории можно хоть триллион выделять толку будет ноль. Это хорошо показала Япония в 80-х годах. У них была программа по созданию ИИ в которую они вбухали 500 млн долларов (с учетом инфляции за прошедшии 20 лет думаю тот же современный млрд.) с нулевым результатом.

Смотря что японцы хотели получить. Если копию человеческого мозга - то для этого достаточно хорошо исследовать структуру мозга, его строение, составить его карту, чем и занимаются сейчас американцы. И для этого вполне достаточно вкладывать миллиарды, а остальное сделают исследователи в области нейрологии и биологии человеческого мозга. Если же ставить задачу создать непонятно какую машину с непонятно какой структурой с ИИ, скажем, превышающем человеческий интеллект, то действительно можно вкладывать миллиарды впустую.
homo sapiens
27 апреля 2013, 14:31

Martin написал:
Смотря что японцы хотели получить. Если копию человеческого мозга - то для этого достаточно хорошо исследовать структуру мозга, его строение, составить его карту, чем и занимаются сейчас американцы. И для этого вполне достаточно вкладывать миллиарды, а остальное сделают исследователи в области нейрологии и биологии человеческого мозга. Если же ставить задачу создать непонятно какую машину с непонятно какой структурой с ИИ, скажем, превышающем человеческий интеллект, то действительно можно вкладывать миллиарды впустую.

Вы очень наивны. Видимо потому, что о научной области, о который вы так легко рассуждаете, вам почти ничего неизвестно.
Martin
27 апреля 2013, 14:40

homo sapiens написал: Вы очень наивны. Видимо потому, что о научной области, о который вы так легко рассуждаете, вам почти ничего неизвестно.

А в чем моя ошибка?

homo sapiens написал:
Видимо потому, что о научной области, о который вы так легко рассуждаете, вам почти ничего неизвестно.

Сейчас я читаю книгу Рассела и Норвига "Искусственный интеллект. Современный подход".
homo sapiens
27 апреля 2013, 14:46

Martin написал:
А в чем моя ошибка?

Ваша ошибка в том, что вы не видит проблем там, где они есть. Одно дело сидеть дома и размышлять об ИИ и другое дело писать хотя бы компьютерную программу. Когда человек не теоретизирует, а занимается практической деятельностью, тогда всплывают проблемы, о которых он в теории даже не думал. Именно поэтому многим работодателям важен опыт работы (причем в любой сфере деятельности).
Martin
27 апреля 2013, 16:03

homo sapiens написал:
Ваша ошибка в том, что вы не видит проблем там, где они есть. Одно дело сидеть дома и размышлять об ИИ и другое дело писать хотя бы компьютерную программу. Когда человек не теоретизирует, а занимается практической деятельностью, тогда всплывают проблемы, о которых он в теории даже не думал. Именно поэтому многим работодателям важен опыт работы (причем в любой сфере деятельности).

Так я же отметил выше, что получить ИИ, просто пиша программы (искусственный подход), пока невозможно. Уже 60 лет пытаются что-то сделать, что-то не выходит у Данилы каменный цветок. А вот если мы изучим как устроен и функционирует мозг, то тогда мы сможем воплотить его в "железе" (бионический подход). Так проще.
Poodle
27 апреля 2013, 17:32

Martin написал:
Так я же отметил выше, что получить ИИ, просто пиша программы (искусственный подход), пока невозможно. Уже 60 лет пытаются что-то сделать, что-то не выходит  у Данилы каменный цветок. А вот если мы изучим как устроен и функционирует мозг, то тогда мы сможем воплотить его в "железе" (бионический подход). Так проще.

Мозг на низком уровне уже давно изучен, математическая модель нейрона описывается простым выражением. В любом языке программирования - десятком строк кода максимум. Что дало повод для эйфории по поводу ИИ где-то еще в пятидесятых.
Вопрос - а что дальше? Своеобразный ответ на него дал Лем в одном из приключений Трурля и Клапауция, про компьютер-поэта...
Rendom
27 апреля 2013, 20:15

Poodle написал: Мозг на низком уровне уже давно изучен

В смысле, молекулярный состав изучен?
Martin
27 апреля 2013, 20:25

Poodle написал: Мозг на низком уровне уже давно изучен, математическая модель нейрона описывается простым выражением.

Значит, осталось изучить мозг на высоком уровне. Задача эта непростая, требует многомиллиардных вливаний, зато результат предсказуем - на выходе будет электронная модель мозга. Что само по себе уже неплохо - можно будет использовать умных роботов в ситуациях, когда требуется участие человека, но оно невозможно в силу вредной или опасной среды - например, в космосе.
homo sapiens
27 апреля 2013, 20:25

Martin написал:
Так я же отметил выше, что получить ИИ, просто пиша программы (искусственный подход), пока невозможно. Уже 60 лет пытаются что-то сделать, что-то не выходит  у Данилы каменный цветок. А вот если мы изучим как устроен и функционирует мозг, то тогда мы сможем воплотить его в "железе" (бионический подход). Так проще.

Обсуждать тут нечего. Каждый останется при своем мнении. Мое мнение следующие: В ближайшие 10-20 лет ИИ сопоставимый с человеческим создан не будет, США и Европа могут хоть триллион долларов выделять. А правдивость моего предсказания можно будет проверить спустя 20 лет. biggrin.gif
И я прекращаю беседу, так как она уже зацикливается (отвечать скорее всего больше не буду).
Poodle
28 апреля 2013, 01:33

Rendom написал:
В смысле, молекулярный состав изучен?

В смысле функциональности нейрона. А молекулярный состав с этой точки зрения не так уж и важен, на лампах там рация, на транзисторах или на бронетранспортере...
cruizer
28 апреля 2013, 01:33

Martin написал:
Так я же отметил выше, что получить ИИ, просто пиша программы (искусственный подход), пока невозможно. Уже 60 лет пытаются что-то сделать, что-то не выходит  у Данилы каменный цветок. А вот если мы изучим как устроен и функционирует мозг, то тогда мы сможем воплотить его в "железе" (бионический подход). Так проще.

Так не проще, ибо нет такого железа на котором можно запустить адекватную модель мозга. Элементарно не хватит мощности, даже если мы будет точно знать как что запрограммировать.
Другая проблема - понять как мозг работает. Напрямую дизассемблировать и посмотреть не получится, видимо надо пробовать и пробовать, создавать модели и смотреть насколько хорошо они работают. Опять же, это затруднительно, поскольку подходящего железа не существует.
Poodle
28 апреля 2013, 01:35

Martin написал:
Значит, осталось изучить мозг на высоком уровне.

Ну так все остальное - следствие. Как оно учится - вот вопрос...
Poodle
28 апреля 2013, 01:37

cruizer написал:
Так не проще, ибо нет такого железа на котором можно запустить адекватную модель мозга. Элементарно не хватит мощности, даже если мы будет точно знать как что запрограммировать.

Ну почему, отдельные части, по крайней мере, вполне запустить можно. Зрение там, или слух, например.
Martin
28 апреля 2013, 07:26

homo sapiens написал: Мое мнение следующие: В ближайшие 10-20 лет ИИ сопоставимый с человеческим создан не будет, США и Европа могут хоть триллион долларов выделять.

Согласен. А вот через 50 лет искусственный человеческий мозг вполне может быть создан.
Martin
28 апреля 2013, 07:29

cruizer написал: Так не проще, ибо нет такого железа на котором можно запустить адекватную модель мозга. Элементарно не хватит мощности, даже если мы будет точно знать как что запрограммировать.

Железо постоянно совершенствуется. Закон Мура пока еще действует.
Poodle
28 апреля 2013, 21:53

Martin написал:
Железо постоянно совершенствуется. Закон Мура пока еще действует.

Да при чем тут железо? Помоделировать можно и так, пусть даже не очень быстро...
Martin
28 апреля 2013, 23:42

Poodle написал:
Ну почему, отдельные части, по крайней мере, вполне запустить можно. Зрение там, или слух, например.

Уже и моторику руки, связанную со зрением и распознаванием образов смоделировали:
Нейрологи Универсистета Ватерлоо (Онтарио, Канада), создали «крупнейшую работающую модель мозга», насчитывающую 2,5 млн имитируемых нейронов.
Разумеется, она не самая крупная (по сравнению с моделью от IBM), но

Симулятор мозга SPAUN (Semantic Pointer Architecture Unified Network — Единая сеть на основе архитектуры семантических точек) имитирует биологические особенности каждого нейрона, включая то, какие нейротрансмиттеры используются, как генерируются электрические сигналы в клетке и как осуществляется коммуникация между клетками. Эта сеть используется для обработки визуальных образов и управляет автоматическим манипулятором, с помощью которого SPAUN отвечает на полученные задания (перцепционные, когнитивные и моторные). Попросту говоря, пишет ответы на вопросы и задания.

Вот ссылка: Waterloo researchers create world's largest functioning model of the brain.
Poodle
29 апреля 2013, 07:33

Martin написал:
Уже и моторику руки, связанную со зрением и распознаванием образов смоделировали:
Нейрологи Универсистета Ватерлоо (Онтарио, Канада), создали «крупнейшую работающую модель мозга», насчитывающую 2,5 млн имитируемых нейронов.
Разумеется, она не самая крупная (по сравнению с моделью от IBM), но

Вот ссылка: Waterloo researchers create world's largest functioning model of the brain.

Ну вот, видишь - и никакого ужасного железа не надо...
Martin
29 апреля 2013, 20:38
Ландау как-то спросили:
- Может ли машина мыслить?
Он ответил:
- Я не встречал мыслящих людей, а вы хотите, чтобы машина мыслила.
cruizer
1 мая 2013, 18:38

Poodle написал:
Да при чем тут железо? Помоделировать можно и так, пусть даже не очень быстро...

Я когда-то уже приводил аналогию - теоретически, рендерить 3d графику можно было и на программируемом калькуляторе. Данные вводить и выводить сложно, да, но ведь можно. Но никто этим не занимался, потому что в этом не было никакого смысла - быстрее и лучше получится самому нарисовать. Так и с ИИ сейчас smile.gif Лет через 20 - 50 компьютеры может подтянутся, тогда всё получится. Слишком уж медленные они сейчас.
Martin
1 мая 2013, 20:37

cruizer написал:
Я когда-то уже приводил аналогию - теоретически, рендерить 3d графику можно было и на программируемом калькуляторе. Данные вводить и выводить сложно, да, но ведь можно. Но никто этим не занимался, потому что в этом не было никакого смысла - быстрее и лучше получится самому нарисовать. Так и с ИИ сейчас smile.gif Лет через 20 - 50 компьютеры может подтянутся, тогда всё получится. Слишком уж медленные они сейчас.

v-groove уже приводил ссылку IBM провела симуляцию нейрокомпьютера, сопоставимого с мозгом человека:

На сей раз была проведена симуляция работы 530 млрд. нейронов и 1.37x10^14 синапсов.

Здесь примечательно, что это, вообще говоря, уже в 5 раз больше оцениваемого количества нейронов в голове человека.

Из русской заметки сразу не сообразить, что собственно делали. Поэтому вкратце. Это не симуляция мозга. На большом суперкомпьютере общего назначения симулировали массивную работу другого разрабатываемого железа, а именно - архитектуру основанную на специализированных чипах заточенных под нейросети. Эмуляция была примерно в 1500 раза медленнее того, как должно работать именно итоговое железо, а не биологический мозг. Если сравнивать с живым мозгом, то вполне допускаю, что специализированное железо сможет работать даже быстрее. Как цель, хотят добиться того, чтоб железо умещало 10 млрд. нейронов в 2-х кубических дециметрах с энергопотреблением не больше 1 кВт.

Прогресс идет весьма шустро.

Poodle
1 мая 2013, 23:28

cruizer написал:
Я когда-то уже приводил аналогию - теоретически, рендерить 3d графику можно было и на программируемом калькуляторе. Данные вводить и выводить сложно, да, но ведь можно. Но никто этим не занимался, потому что в этом не было никакого смысла - быстрее и лучше получится самому нарисовать.

Так до компьютеров на калькуляторах и считали. А до них на арифмометрах, логарифмических линейках или просто на бумажках. Не быстро было, конечно, но задачи таки довольно масштабные решали...


cruizer написал:
Так и с ИИ сейчас smile.gif Лет через 20 - 50 компьютеры может подтянутся, тогда всё получится. Слишком уж медленные они сейчас.

И когда появятся эти супер-суперские компьютеры вдруг окажется, что задач под них как-то и нету, потому что в их ожидании никто алгоритмами не занимался...
cruizer
2 мая 2013, 02:38

Poodle написал:
Так до компьютеров на калькуляторах и считали. А до них на арифмометрах, логарифмических линейках или просто на бумажках. Не быстро было, конечно, но задачи таки довольно масштабные решали...

Решали конечно, и сейчас решают. Я говорил о трехмерной графике - все вычисления там можно выполнить и на калькуляторе и даже на листке бумаги. Но объём вычислений огромный, поэтому получить таким способом даже достаточно простую картинку нереально. А сейчас компьютеры без проблем генерируют реалистичные изображения, такие что от фотографий сразу и не отличишь. Всё дело в скорости, алгоритмы ведь там простейшие и давно известные.
Так и с ИИ - сейчас самые продвинутые системы кое-как могут голос распознавать, достаточно коряво. А если увеличить производительность в стопицот раз и научить систему самообучаться, то известные алгоритмы начнут бегло разговаривать и песни сочинять. Хотя не всё так просто, конечно, возможно ничего не получится smile.gif
cruizer
2 мая 2013, 03:03


Обычно в суперкомпьютерах узкое место - это невозможность пересылать большое количество данных одновременно. Объясняю - вот они моделируют 10^14 синапсов. Моделировать столько синапсов по отдельности достаточно просто, производительность позволяет. Но, после каждого такта работы настоящей нейронной сети каждый синапс отправляет сигнал до 5000 других нейронов, и соответственно их синапсам. Это сколько данных надо переслать?
Что получается - для того чтобы моделировать нейронную сеть, по структуре напоминающую мозг, на каждый такт кроме 10^14 операций надо произвести 10^17 операций с памятью.
У них на каждом чипе стоит 256 нейронов, 1024 аксона, и 256 x 1024 синапсов. Наверняка на каждом такте нейроны взаимодействуют блоками в пределах одного чипа, а блоки взаимодействуют между собой уже гораздо меньше. То есть, нейрон с одного чипа не может сразу переслать сигнал нейронам на других чипах.
Поэтому, хотя по количеству элементов они и догнали мозг, структура сети существенно отличается от реальной. Решить эту проблему "в лоб" не получится - нужное количество железа или время моделирования растёт экспоненциально при увеличении размера блоков.
Решением может быть, например, создание объёмых чипов, элементы которых размещаются не на плоскости, а в 3-хмерном пространстве, как в настоящем мозге. Тогда и связи между нейронами можно будет проводить "напрямую".
Poodle
2 мая 2013, 08:02

cruizer написал:
Обычно в суперкомпьютерах узкое место - это невозможность пересылать большое количество данных одновременно. Объясняю - вот они моделируют 10^14 синапсов. Моделировать столько синапсов по отдельности достаточно просто, производительность позволяет. Но, после каждого такта работы настоящей нейронной сети каждый синапс отправляет сигнал до 5000 других нейронов, и соответственно их синапсам. Это сколько данных надо переслать?

Если они используют логическую - что скорее всего - модель нейрона, то 1 бит на 5000 входов - это 625 байт. Не ужос-ужос...


Solmir
2 мая 2013, 10:05

cruizer написал:
А если увеличить производительность в стопицот раз и научить систему самообучаться, то известные алгоритмы начнут бегло разговаривать и песни сочинять.

А ты послушай некоторые песни и поймешь, что их компьютеры и сочиняли. Точно не люди. smile4.gif
v-groove
3 мая 2013, 15:55

cruizer написал: Объясняю - вот они моделируют 10^14 синапсов. Моделировать столько синапсов по отдельности достаточно просто, производительность позволяет. Но, после каждого такта работы настоящей нейронной сети каждый синапс отправляет сигнал до 5000 других нейронов, и соответственно их синапсам. Это сколько данных надо переслать?

Не. Не так. Ты тут путаешь. Синапс физически – это место контакта двух нейронов (или нейрона и рецепторной клетки). Синапс в математических моделях – это просто само соединение. Синапс по определению всегда «связан» только с двумя нейронами. Не больше, не меньше. А вот нейрон – тот действительно может иметь связи с тысячей других нейронов и, соответственно, мы получаем 1000 синапсов. Оцениваемое число связей между нейронами (именно связей, а не нейронов) человеческого мозга имеет примерно порядок 10^(14-15). Так что количественно симуляция IBM сопоставима как по числу нейронов, так и по количеству связей между ними.

Это, кстати, одна из известных масштабных задач в изучении мозга человека - описание всех связей (синапсов) между всеми нейронами. Существует, к примеру, проект описания полного коннектома мозга - Human Connectome Project. Задача весьма нетривиальная. В свое время на построение «вручную» полного коннектома червя нематоды (302 нейрона, порядка 7000 синапсов) ушло более 10 лет. Сейчас, как я понимаю, в основном идут работы по совершенствованию технологий, алгоритмов, программного обеспечения и т.д., которые могли бы это дело автоматизировать и ускорить, иначе задачу за приемлемое время просто не поднять.

cruizer написал: Что получается - для того чтобы моделировать нейронную сеть, по структуре напоминающую мозг, на каждый такт кроме 10^14 операций надо произвести 10^17 операций с памятью.

Нет. Число нейронов ~10^(10-11), число связей - ~10^(14-15). Вот это второе число и есть грубая порядковая оценка числа операций на каждый шаг расчета нейронной сети.

cruizer написал: У них на каждом чипе стоит 256 нейронов, 1024 аксона, и 256 x 1024 синапсов. Наверняка на каждом такте нейроны взаимодействуют блоками в пределах одного чипа, а блоки взаимодействуют между собой уже гораздо меньше. То есть, нейрон с одного чипа не может сразу переслать сигнал нейронам на других чипах.

Верно. На самом деле в реальном мозге тоже наблюдается нечто подобное. Т.е. там не просто каждый нейрон случайным образом связан с другими нейронами по всему объему мозга. Там точно так же отдельные множества нейронов объединяются в более крупные блоки и связи внутри блока более многочисленны, чем вовне. В кортексе нейроны группируются в т.н. микроколонки кортекса. Каждая вертикальная микроколонка содержит порядка 80-100 нейронов, разделенных на 6 слоев . В свою очередь, микроколонки организованы в более крупные структуры – гиперколонки (кортикальные модули), которые содержат, в свою очередь, по 50-100 микроколонок. И т.д. При этом, повторюсь, как правило, на каждом таком уровне внутримодульные связи являются более плотными и многочисленными, чем связи межмодульные.

Соответственно, архитектура нейрокомпьютера на основе подобных чипов, которая разбивает нейрокомпьютер на модули по несколько сот нейронов, она в принципе навеяна теми решениями, которые возникли в процессе эволюции в живом мозге, и ситуация, при которой взаимодействие между чипами меньше, чем взаимодействие внутри чипов, она не будет иметь принципиальных отличий от того, что есть в реальном мозге.

К тому же, скорость работы таких чипов должна быть во много раз быстрее биологических аналогов, что тоже дает массу преимуществ.

cruizer написал: Поэтому, хотя по количеству элементов они и догнали мозг, структура сети существенно отличается от реальной.

По многим параметрам отличается, да. Но её и не надо воспроизводить одни в один. Это вот в «Human Brain Project» такая задача стоит. Но там и цель – изучение и моделирование именно человеческого мозга. Как ни странно, но прямой задачи построения ИИ там нет, только косвенная. А тем, кто строит ИИ, тем смотреть в сторону человеческого мозга полезно и важно, но в точности копировать его совсем не обязательно. Вполне возможно, что существуют гораздо более эффективные архитектуры и алгоритмы, решающие те же задачи, что и биологический мозг.

cruizer написал: Решить эту проблему "в лоб" не получится - нужное количество железа или время моделирования растёт экспоненциально при увеличении размера блоков.

Нет там экспоненциального роста. Даже если взять гипотетический предельный случай, когда каждый нейрон имеет связь со всеми остальными нейронами, то даже в этом случае будет лишь квадратичный рост числа соединений от числа нейронов. А по факту, рост вообще можно считать примерно линейным (т.е. число нейронов, с которым может быть соединен другой нейрон, имеет некоторый верхний предел, не зависящий от общего числа нейронов).

cruizer написал: Решением может быть, например, создание объёмых чипов, элементы которых размещаются не на плоскости, а в 3-хмерном пространстве, как в настоящем мозге. Тогда и связи между нейронами можно будет проводить "напрямую".

Спора нет. Объемная упаковка элементов электроники вещь полезная и перспективная. Однако отсутствие таковой, ИМХО, для моделирования нейросетей препятствием ни разу не является, в том числе и для нейросетей по размерам подобных тем, что есть в головах людей.
Rendom
3 мая 2013, 20:08

v-groove написал: Это, кстати, одна из известных масштабных задач в изучении мозга человека - описание всех связей (синапсов) между всеми нейронами.

Интересно было почитать. А какие параметры нужны для описания одного синапса? Сигналы, которые поступают в клетку через синапсы, каким-то образом внутри нее "обрабатываются"?
Poodle
4 мая 2013, 04:26

Rendom написал:
Интересно было почитать. А какие параметры нужны для описания одного синапса? Сигналы, которые поступают в клетку через синапсы, каким-то образом внутри нее "обрабатываются"?

Синапс - это просто коннектор. Взял оттуда, положил сюда...
Rendom
4 мая 2013, 06:03

Poodle написал: Синапс - это просто коннектор. Взял оттуда, положил сюда...

и что это значит?
Poodle
7 мая 2013, 09:30

Rendom написал:
и что это значит?

Ну типа устройства для соединения двух проводов.
Martin
7 мая 2013, 13:43

Rendom написал: Сигналы, которые поступают в клетку через синапсы, каким-то образом внутри нее "обрабатываются"?

Как функционирует натуральный нейрон, я не нашел, зато нашел математическую модель искусственного нейрона.
Rendom
7 мая 2013, 15:03

Poodle написал: Ну типа устройства для соединения двух проводов.

Вряд ли там все так тривиально.
Дальше >>
Эта версия форума - с пониженной функциональностью. Для просмотра полной версии со всеми функциями, форматированием, картинками и т. п. нажмите сюда.
Invision Power Board © 2001-2016 Invision Power Services, Inc.
модификация - Яро & Серёга
Хостинг от «Зенон»Сервера компании «ETegro»