Справка - Поиск - Участники - Войти - Регистрация
Полная версия: Вычислительная мощность человеческого мозга
Частный клуб Алекса Экслера > Наука и техника
Страницы: 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43
cruizer
26 июля 2012, 18:52
В продолжение обсуждения http://forum.exler.ru/index.php?showtopic=177138&st=200

"Нейроны гораздо медленнее транзисторов в компьютере. Нейрон собирает информацию со своих синапсов и комбинирует эту информацию, чтоб решить, когда сгенерировать спайк для других нейронов. Обычный нейрон может сделать это и сбросить себя миллисекунд на пять, то есть примерно 200 раз в секунду. Это может показаться быстрым, но современные кремниевые компьютеры могут выполнять миллиард операций в секунду. Это означает, что базовая компьютерная операция в пять миллионов раз быстрее базовой операции вашего мозга. Это очень, очень большая разница. Так как же может быть, что мозг быстрее и мощнее, чем самые быстродействующие современные компьютеры? «Без проблем», говорят люди, поддерживающие аналогию «мозг это компьютер». «Мозг это параллельный компьютер. В нем миллиарды клеток, работающих одновременно. Этот параллелизм значительно увеличивает вычислительную мощь биологического мозга».
Я всегда чувствовал, что такой аргумент был хитростью, и простой мысленный эксперимент показывает почему. Это называется «правило в сто шагов». Человек может выполнять значительные задачи меньше чем за секунду. Например, я мог бы показать вам фотографию и попросить определить, изображена ли на ней кошка. Вашей задачей было бы нажать на кнопку, если там кошка, но не медведь или бородавочник или репа. Эта задача для компьютера сложная или невозможная на сегодняшний день, тогда как человек может решить ее достоверно за полсекунды или меньше. Но нейроны медленны, так что за полсекунды информация, поступающая в мозг, может пройтись только по цепочке длиной в сто нейронов. То есть, «компьютерное» решение подобной проблемы мозгом может быть в сто шагов или меньше, несмотря на то, сколько всего нейронов задействовано. С момента, когда свет попал в ваш глаз, до момента нажатия кнопки может быть задействована цепочка не длиннее ста нейронов. Цифровой компьютер, пытающийся решить ту же самую задачу, сделал бы миллиарды операций или шагов. Одной сотни компьютерных команд хватит только на то, чтоб переместить единичный символ на дисплей, не говоря о том, чтоб сделать что-то интересное.

Автор имеет профильное образование, но делает элементарную ошибку. Сигнал с выхода одного нейрона поступает на вход тысяч других. Получается не цепочка длиной 100 нейронов, а дерево высотой 100 уровней. На первом уровне пусть 1 нейрон, на 2-м - 1000, на 3-ем - 1 миллион и так далее. На 5-м шагу количество нейронов, который могут быть задействованы, уже в десять раз превышает имеющееся количество, то есть многие нейроны будут работать повторно. Значит, можно точно сказать что за 0.5 секунды человек успевает хорошо подумать всем мозгом.

Заодно можно сравнить вычислительную мощность с существующими компьютерами. В мозгу примерно 100 миллиардов нейронов и более чем в 1000 раз больше связей. Если передачу сигнала между нейронами считать операцией, получаем 10^14 операций в секунду. Теоретическая мощность самых мощных суперкомпьютеров 10^16 flops, но это число сильно завышено. Столько могут выдавать процессоры, если не учитывать синхронизацию и передачу данных между ними. Реально нужно убрать несколько порядков.
Шaман
27 июля 2012, 01:09

cruizer написал: Заодно можно сравнить вычислительную мощность с существующими компьютерами

А зачем сравнивать теплое с мягким? Флопсы, тактовые частоты...

Прежде, чем сравнивать вычислительную мощность человеческого мозга с компьютерами, давайте сравним вычислительную мощность... обычного операционного усилителя. Этот крохотный по сравнению с ЦПУ чип с минимальной обвеской из пассивных элементов в состоянии решать дифференциальные уравнения в реальном времени с любой наперед заданной точностью. А какая у него "тактовая частота"? Да никакой вообще. А с этой элементарной для операционного усилителя задачей далеко не каждый компьютер с тактовой частотой в 2 гигагерца справится.

А если вспомнить аналоговые вычислительные машины (АВМ)? Какие у них были "тактовые частоты"? А ведь решали системы дифуров опять же в реальном времени. Для цифровых вычислительных машин (ЭВМ) реальное время - это до сих пор очень больной вопрос.

А теперь главный вопрос - человеческий мозг, он ближе к каким системам, цифровым или таки аналоговым?
Poodle
27 июля 2012, 02:21

Шaман написал:
А какая у него "тактовая частота"?

"тактовая частота" = "полоса пропускания".
Gibber
27 июля 2012, 04:14

Шaман написал: в состоянии решать дифференциальные уравнения в реальном времени с любой наперед заданной точностью. А какая у него "тактовая частота"? Да никакой вообще.

Это неверно. Точность ОУ и соответственно АВМ ограничена, тактовой частоты действительно нет, так как нет квантования по времени, но быстродействие ОУ также ограничено. Причем чем точнее ОУ, тем он менее быстродействующий.
Beaglez
27 июля 2012, 04:24

Шaман написал: А теперь главный вопрос - человеческий мозг, он ближе к каким системам, цифровым или таки аналоговым?

К аналоговым, конечно.

cruizer написал:  Если передачу сигнала между нейронами считать операцией

Это не совсем корректно, потому что передача сигнала между нейронами и операция с вещественным числом - не эквивалентны. Просто хотя бы потому, что операция над числом - законченное действие, а простая передача сигнала между нейронами сама по себе смысла не несет.

cruizer написал: Теоретическая мощность самых мощных суперкомпьютеров 10^16 flops, но это число сильно завышено. Столько могут выдавать процессоры, если не учитывать синхронизацию и передачу данных между ними.

На то она и "теоретическая" (пиковая), чтобы учитывать только идеальные условия. smile.gif
Насчет практической производительности гадать не нужно, достаточно заглянуть в Топ500.
Мы там видим, что самый быстрый на сегодня агрегат называется "Секвоя" и имеет 16324.8 Тфлопс реальную и 20132.7 Тфлопс пиковую производительность.
cruizer
27 июля 2012, 11:45

Шaман написал: Этот крохотный по сравнению с ЦПУ чип с минимальной обвеской из пассивных элементов в состоянии решать дифференциальные уравнения в реальном времени с любой наперед заданной точностью. А какая у него "тактовая частота"? Да никакой вообще. А с этой элементарной для операционного усилителя задачей далеко не каждый компьютер с тактовой частотой в 2 гигагерца справится.

Насколько я понимаю, вся его логика - сложить два числа и помножить на коэффициент усиления. Элементарно решается парой арифметических уcтройств в реальном времени.

Шaман написал: А если вспомнить аналоговые вычислительные машины (АВМ)? Какие у них были "тактовые частоты"? А ведь решали системы дифуров опять же в реальном времени. Для цифровых вычислительных машин (ЭВМ) реальное время - это до сих пор очень больной вопрос.

Системы дифур тоже можно решать в реальном времени с любой наперед заданной точностью численными методами. Это намного надежнее, чем использовать аналоговые схемы, поскольку в тех быстро накапливаются ошибки, зависящие от температуры, помех и т.д. Не просто так современные утройства переходят на цифру.

Шaман написал: А теперь главный вопрос - человеческий мозг, он ближе к каким системам, цифровым или таки аналоговым?

Он разумеется аналоговый, но это не значит что его функциональность нельзя моделировать в цифровой вычислительной системе.
Crux
27 июля 2012, 12:08

cruizer написал: В продолжение обсуждения http://forum.exler.ru/index.php?showtopic=177138&st=200

Автор имеет профильное образование, но делает элементарную ошибку.

Я сейчас не настроен спорить по существу вопроса, давайте просто поясним читателям, о чем идет речь. Автор - Джефф Хокинс, некогда владелец и руководитель компании Palm, у него два высших образования - программиста и биолога. Сейчас, Хокинс руководит компанией Numenta, целенаправленно занимающейся созданием искусственного интеллекта. В 2004 году, Хокинс написал книгу "Об интеллекте", получившей широкую известность как у нас, так и за рубежом. В книге было сделано примечательное предсказание:

"Рассмотрим задачу ловли мяча. Кто-то бросает мяч вам, вы видите, как он движется к вам, и менее чем за секунду вы хватаете его. Это кажется несложным – до тех пор, пока вы не попытаетесь запрограммировать манипулятор робота, чтоб сделать то же самое. Как убедились на своем опыте множество аспирантов, это кажется практически невозможным. Когда инженер или компьютерщик энергично берется за эту задачу, он в первую очередь пытается вычислить полет мяча, чтоб определить, где он будет, когда достигнет манипулятора. Это вычисление требует решения набора уравнений того типа, что изучались вами на физике в институте. Затем, все шарниры манипулятора должны дружно передвинуть манипулятор в необходимое положение. Это требует решение другого набора математических уравнений, более сложного, чем первые. Наконец, эта операция в целом должна быть повторена множество раз, чтобы по мере приближения мяча робот получил наилучшую информацию о положении и траектории мяча. Если робот будет ждать вычисления точного положения прибытия мяча, прежде чем начнет движение, он не успеет поймать его. Он должен начать движение, как только получит малейшую информацию о положении мяча, и постоянно корректировать свое положение по мере приближения мяча. Компьютеру требуются миллионы операций, чтоб решить множество математических уравнений для поимки мяча. И хотя компьютер мог бы быть запрограммирован для решения этой задачи, «правило ста шагов» говорит нам, что мозг решает ее другим способом. Он использует память".

Примечательно здесь то, что спустя семь лет после публикации "On Intelligence", задача ловли мяча манипулятором была решена практически. По всей видимости, она потребовала немалых вычислительных мощностей компьютера: http://www.membrana.ru/particle/16090
cruizer
27 июля 2012, 12:14

Beaglez написал: Это не совсем корректно, потому что передача сигнала между нейронами и операция с вещественным числом - не эквивалентны. Просто хотя бы потому, что операция над числом - законченное действие, а простая передача сигнала между нейронами сама по себе смысла не несет.

Конечно не эквивалентна. Если моделировать работу нейронов, каждый переданный сигнал нужно как минимум принять (например, прочитать из памяти) и как-то обработать. В реальности на это уйдет намного больше операций, но для простоты можно считать, что у нас есть специально разработанный для этих целей компьютер, выполняющий обработку сигнала условно говоря за один такт.

Beaglez написал:
На то она и "теоретическая" (пиковая), чтобы учитывать только идеальные условия. smile.gif
Насчет практической производительности гадать не нужно, достаточно заглянуть в Топ500.
Мы там видим, что самый быстрый на сегодня агрегат называется "Секвоя" и имеет 16324.8 Тфлопс реальную и 20132.7 Тфлопс пиковую производительность.

Ээ, нет, тут есть нюансы. Это реальная производительность только для тех задач, которые на нем запускаются. Можно легко придумать задачу, на которой реальная производительность этого монстрокомпьютера будет равна производительности одного процессора. Например - вычислить факториал большого числа.
В общем, реальная производительность определяется тем, как хорошо задача распараллеливается на относительно независимые блоки. Чем лучше параллелится - тем ближе производительность будет к теоретической. Моделирование нейронной сети - не очень хорошая задача для суперкомпьютера, поскольку в ней слишком много связей и выделить независимые куски не получится. Суперкомьютер будет сильно притормаживать на пересылке данных между узлами и доступе к памяти, в итоге производительность будет на порядки ниже.
cruizer
27 июля 2012, 12:25

Crux написал:
Я сейчас не настроен спорить по существу вопроса, давайте просто поясним читателям, о чем идет речь. Автор - Джефф Хокинс, некогда владелец и руководитель компании Palm, у него два высших образования - программиста и биолога. Сейчас, Хокинс руководит компанией Numenta, целенаправленно занимающейся созданием искусственного интеллекта. В 2004 году, Хокинс написал книгу "Об интеллекте", получившей широкую известность как у нас, так и за рубежом.

Я уверен что он отлично разбирается в предмете. Пожалуй, даже прочитаю его книгу. Однако, его правило ста шагов не корректно, насколько можно судить из твоей предыдущей цитаты.

Crux написал: Компьютеру требуются миллионы операций, чтоб решить множество математических уравнений для поимки мяча. И хотя компьютер мог бы быть запрограммирован для решения этой задачи, «правило ста шагов» говорит нам, что мозг решает ее другим способом. Он использует память".

Мозгу требуется миллиарды "операций", просто они выполняются одновременно. А то, что мозг решает задачи другим способом - это верно. Но меньше "операций" от этого не становится.
Crux
27 июля 2012, 12:34
Выпил третью чашку кофе. Кажется, начинаю просыпаться. Значит, теперь вкратце по существу темы. Хокинс считает, что человеческий мозг не рассчитан на решение сложных вычислительных задач за доли секунды. Вместо этого, наш мозг достает заранее заготовленные шаблоны ответов, подходящие для каждой конкретной ситуации, слегка модифицирует их, и передает командную информацию спинному мозгу, чтоб тот уже дальше разбирался сам. Итак, Хокинс считает, что наш интеллект на 99% работает за счет памяти. И я тоже так считаю. Хокинс думает, будто эта память содержится непосредственно в мозгу человека, я считаю, что во внешней базе данных. Каждые полгода, я захожу на сайт Numenta

http://www.numenta.com/

и смотрю, не удалось ли им продвинуться по пути создания ИИ. К сожалению, за 6 лет работы они смогли сделать лишь вот это: "Numenta has created a cloud-based prediction engine for streaming data called Grok. The Grok engine automatically discovers patterns in data streams, enabling your applications to predict future values and detect anomalies".
cruizer
27 июля 2012, 12:48

То есть, «компьютерное» решение подобной проблемы мозгом может быть в сто шагов или меньше, несмотря на то, сколько всего нейронов задействовано.

Перечитал еще раз, теперь понял что он хотел сказать.
Да, за счет большого количества связей мозг способен за доли секунды принять решение, но это хорошо работает только в знакомой ситуации. Интересное правило - позволяет представить какой объем работы мозг выполняет за каждый "такт".
cruizer
27 июля 2012, 13:05

Crux написал: Хокинс считает, что человеческий мозг не рассчитан на решение сложных вычислительных задач за доли секунды. Вместо этого, наш мозг достает заранее заготовленные шаблоны ответов, подходящие для каждой конкретной ситуации, слегка модифицирует их, и передает командную информацию спинному мозгу, чтоб тот уже дальше разбирался сам. Итак, Хокинс считает, что наш интеллект на 99% работает за счет памяти. И я тоже так считаю.

Я тоже согласен.
Когда-то показывали исследование способностей шахматистов и пришли к выводу умение играть в шахматы в первую очередь связано с распознаванием образов. Человек не перебирает варианты, как это делает компьютер. Был интересный тест - шахматистка с легкостью запонимала положение фигур на доске, когда это была реальная партия, и совсем не могла запомнить, когда фигуры расставлены случайным образом. Пришли к выводу, что она запоминает знакомые комбинации фигур на доске, а не отдельные фигуры. Играет таким же образом.

Crux написал: Хокинс думает, будто эта память содержится непосредственно в мозгу человека, я считаю, что во внешней базе данных.

Это как во внешней? У каждого человека своя память, вроде бы smile.gif
Crux
27 июля 2012, 13:09

cruizer написал:
Это как во внешней? У каждого человека своя память, вроде бы smile.gif

Видите ли, я считаю, что наш мир представляет собой изощренную компьютерную симуляцию. Эта симуляция замаскирована под объективную реальность, но страдает рядом конструктивных недостатков, один из которых - несамодостаточность человеческого мозга. Все эти "прозрения", "озарения", "вдохновения" - одним словом, информация, полученная из внешней базы данных.
cruizer
27 июля 2012, 13:15

Crux написал:
Видите ли, я считаю, что наш мир представляет собой изощренную компьютерную симуляцию.

Распространенная точка зрения smile.gif
   Спойлер!
user posted image


Crux написал: Эта симуляция замаскирована под объективную реальность, но страдает рядом конструктивных недостатков, один из которых - несамодостаточность человеческого мозга. Все эти "прозрения", "озарения", "вдохновения" - одним словом, информация, полученная из внешней базы данных.

Ну, в это можно верить но объективных причин так считать я не вижу.
povar
27 июля 2012, 13:23

cruizer написал: Насколько я понимаю, вся его логика - сложить два числа и помножить на коэффициент усиления. Элементарно решается парой арифметических уcтройств в реальном времени.

Весь цимус в пассивных элементах обвязки. Если там использовать нелинейные элементы - да хоть тот же p-n переход - устройство будет выдавать на выходе логарифм входного сигнала, например. Нифга не элементарно решается численным методом в реальном времени smile.gif

cruizer написал: Системы дифур тоже можно решать в реальном времени с любой наперед заданной точностью численными методами. Это намного
надежнее, чем использовать аналоговые схемы, поскольку в тех быстро накапливаются ошибки, зависящие от температуры, помех и
т.д. Не просто так современные утройства переходят на цифру.

Системы, использующие аналоговые вычислители, в обязательном порядке используют отрицательные обратные связи, поэтому накапливающиеся ошибки корректируются в реальном же масштабе времени.

Вот, кстати, интересно - современные ракеты, гоняющиеся за самолётами, до сих пор используют аналоговые машинки или всё же перешли на цифру?
Crux
27 июля 2012, 13:24

cruizer написал:
Ну, в это можно верить но объективных причин так считать я не вижу.

Эту точку зрения легко опровергнуть - создать полноценный ИИ, например. Или воспроизвести в лабораторных условиях цепочку химических реакций фотосинтеза. Или четко объяснить физическую природу присоединенных вихрей в аэродинамике. Или методами генной инженерии создать принципиально новый биологический вид. Или проянить природу тяготения. Короче говоря, доказать естественность и самодостаточность тех процессов, работа которых в нашей Матрице обеспечивается самостоятельными алгоритмами (теми, что создателям Матрицы не удалось замаскировать под глобальные законы природы).
cruizer
27 июля 2012, 14:06

povar написал:
Весь цимус в пассивных элементах обвязки. Если там использовать нелинейные элементы - да хоть тот же p-n переход - устройство будет выдавать на выходе логарифм входного сигнала, например. Нифга не элементарно решается численным методом в реальном времени smile.gif

Интерполяцией по таблице известных значений можно - просто и быстро, и с любой точностью smile.gif
Конечно это сложнее чем просто транзистор поставить. Зато другие вещи делаются проще в цифре. Можно ли аналогово реализовать алгоритм с условными переходами, или вычислить "ломанную" функцию, которая не является суперпозицией логарифмов да косинусов?

povar написал: Вот, кстати, интересно - современные ракеты, гоняющиеся за самолётами, до сих пор используют аналоговые машинки или всё же перешли на цифру?

Этого не знаю smile.gif
cruizer
27 июля 2012, 14:09

Crux написал:
Эту точку зрения легко опровергнуть - создать полноценный ИИ, например. Или воспроизвести в лабораторных условиях цепочку химических реакций фотосинтеза. Или четко объяснить физическую природу присоединенных вихрей в аэродинамике. Или методами генной инженерии создать принципиально новый биологический вид. Или проянить природу тяготения. Короче говоря, доказать естественность и самодостаточность тех процессов, работа которых в нашей Матрице обеспечивается самостоятельными алгоритмами (теми, что создателям Матрицы не удалось замаскировать под глобальные законы природы).

Это ничего не докажет и не опровергнет. Что если создатели Матрицы заранее все продумали, чтобы мы сначала помучились, а потом сделали то что ты перечислил?
Crux
27 июля 2012, 14:24

cruizer написал:
Это ничего не докажет и не опровергнет. Что если создатели Матрицы заранее все продумали, чтобы мы сначала помучились, а потом сделали то что ты перечислил?

Они не могли продумать заранее все. Саму Матрицу они зачем-то создали, значит, хотят просчитать какие-то варианты развития человечества. Далее, они вынуждены исходить из принципа экономии вычислительных ресурсов. Это уже накладывает ряд ограничений - например, физический принцип дальнодействия в такой модели не будет работать. Но вы безусловно правы в своей основной мысли: доказать материалистический вариант невозможно. Возможно только опровергнуть. Иными словами, если внутренние противоречия конструкции Матрицы никому не бросаются в глаза, то мы или живем в объективной физической реальности, или этот мир просто очень хорошо запрограммирован. Когда я в предыдущем посте говорил о легкости опровержения, то имел в виду лишь опровержение собственной позиции, а не решение основного вопроса философии. Что касается нашей темы, то с позиции экономии вычислительных ресурсов, моделируемым Матрицей человеческим мозгам необходимо выделить минимум функций, а основную часть расчетов и почти всю базу данных вынести на внешний сервер. Если вы компьютерщик, то должны понимать, почему это так.
m@gi
27 июля 2012, 14:56

cruizer написал: Значит, можно точно сказать что за 0.5 секунды человек успевает хорошо подумать всем мозгом.

Если следовать разработкам отечественной науки о мозге, например, Наталье Бехтеревой, то она утверждала, что возможности человеческого мозга безграничны, но с применением туговато, мешают эмоции. Тоесть, да, и я согласна, что человеческий мозг для вычислений не идеален, машина с этим справляется лучше. smile4.gif
Иррациональность человеческого мышления это то, что отличает и будет отличать ИИ от интеллекта человека. И это совсем неплохо. smile.gif
nikvic
27 июля 2012, 15:26

cruizer написал: Да, за счет большого количества связей мозг способен за доли секунды принять решение, но это хорошо работает только в знакомой ситуации. Интересное правило -  позволяет представить какой объем работы мозг выполняет за каждый "такт".

Давным давно у меня появилась гипотеза про сложность "архивирования" алгоритмических процессов. По ней экономный архив длиннющего "лога" процесса запоминается объёмом в логрифм длины лога, и любая запись в этой истории восстанавливается примерно за такое же время.

У эволюции было достаточно времени, чтобы запастись такими архивами (среди них, если гипотеза верна, есть архив и для универсального процесса)...
cruizer
27 июля 2012, 18:37

nikvic написал:
Давным давно у меня появилась гипотеза про сложность "архивирования" алгоритмических процессов. По ней экономный архив длиннющего "лога" процесса запоминается объёмом в логрифм длины лога, и любая запись в этой истории восстанавливается примерно за такое же время.

Если рассматривать алгоритм или "лог" как последовательность неких символов, то так и есть - строку можно найти в упорядоченном массиве за логарифмическое время.

nikvic написал: У эволюции было достаточно времени, чтобы запастись такими архивами (среди них, если гипотеза верна, есть архив и для универсального процесса)...

Что такое универсальный процесс?
nikvic
27 июля 2012, 18:57

cruizer написал:
Если рассматривать алгоритм или "лог" как последовательность неких символов, то так и есть - строку можно найти в упорядоченном массиве за логарифмическое время.


Что такое универсальный процесс?

Вы невнимательны: у меня речь идёт не только о времени, но и о размере архива.

В теории есть такой "непрактичный" алгоритм, который реализует процесс работы всех алгоритмов на всех данных - с ~константным замедлением по числу шагов, разделением времени.
cruizer
27 июля 2012, 19:05

m@gi написала:
Если следовать разработкам отечественной науки о мозге, например, Наталье Бехтеревой, то она утверждала, что возможности человеческого мозга безграничны, но с применением туговато, мешают эмоции. Тоесть, да, и я согласна, что человеческий мозг для вычислений не идеален, машина с этим справляется лучше.  smile4.gif
Иррациональность человеческого мышления это то, что отличает и будет отличать ИИ от интеллекта человека. И это совсем неплохо. smile.gif

Я думаю, Бехтерева себе льстила, а заодно и всему человечеству smile.gif
Если посмотреть на мозг человека более прагматично - это множество биологических клеток и электрохимических процессов. Может ли это каким-то образом понять или отразить все принципы устройства вселенной - открытый вопрос. Имхо, есть "теоретический предел" того, что человек в состоянии понять.
cruizer
27 июля 2012, 19:13

nikvic написал:
Вы невнимательны: у меня речь идёт не только о времени, но и о размере архива.

В теории  есть такой "непрактичный" алгоритм,  который реализует процесс работы всех алгоритмов на всех данных - с  ~константным замедлением по числу шагов, разделением времени.

В смысле можно "сжать" любой алгоритм (или реализацию алгоритма на конктерных данных) до логарифма его объема? Тогда ведь сжатый можно снова сжать, и так до предела.
cruizer
27 июля 2012, 19:19

Crux написал:
Они не могли продумать заранее все. Саму Матрицу они зачем-то создали, значит, хотят просчитать какие-то варианты развития человечества. Далее, они вынуждены исходить из принципа экономии вычислительных ресурсов.

Что заставило вас думать, что дела обстоят именно так? smile.gif
Gibber
27 июля 2012, 22:55

cruizer написал: Тогда ведь сжатый можно снова сжать, и так до предела.

Есть такие понятия - информационная энтропия и избыточность источника информации. Когда последняя близка к нулю, то далее сжать невозможно.
Martin
27 июля 2012, 22:58

cruizer написал: Может ли это каким-то образом понять или отразить все принципы устройства вселенной - открытый вопрос. Имхо, есть "теоретический предел" того, что человек в состоянии понять.

Отсюда, чтобы раздвинуть рамки понимания, придется развивать соответствующие машины, т.е. пресловутый ИИ, хе-хе. smile.gif
sintez
28 июля 2012, 07:41

cruizer написал: Системы дифур тоже можно решать в реальном времени с любой наперед заданной точностью численными методами. Это намного надежнее, чем использовать аналоговые схемы, поскольку в тех быстро накапливаются ошибки, зависящие от температуры, помех и т.д. Не просто так современные утройства переходят на цифру.

В численных методах ошибки могут накапливаться не менее быстро. Вопрос, опять же, в точности.

cruizer написал: Интерполяцией по таблице известных значений можно - просто и быстро, и с любой точностью

Это в идеальном мире теоретических вычислений с бесконечно большими таблицами. На практике, нельзя.

povar написал: Вот, кстати, интересно - современные ракеты, гоняющиеся за самолётами, до сих пор используют аналоговые машинки или всё же перешли на цифру?

Как-то на конференции пообщался с одним товарищем. Он считает, что у аналоговые машины ждет "второе рождение".
Poodle
28 июля 2012, 08:42

sintez написал: Как-то на конференции пообщался с одним товарищем. Он считает, что у аналоговые машины ждет "второе рождение".

Ну, в "чистом" виде это вряд ли, а вот в качестве DSP'шек вполне возможно...
m@gi
28 июля 2012, 19:33

cruizer написал: Я думаю, Бехтерева себе льстила, а заодно и всему человечеству Если посмотреть на мозг человека более прагматично - это множество биологических клеток и электрохимических процессов. Может ли это каким-то образом понять или отразить все принципы устройства вселенной - открытый вопрос. Имхо, есть "теоретический предел" того, что человек в состоянии понять. 

Не то что льстила, а скорее продолжала традиции идей своего дедушки, который утверждал, что человеческая мысль бессмертна, а значит и личность тоже. Но как клиницист, физиолог мозга, она была очень сильным специалистом. Лечила людей после инсультов, травм мозга, а ведь в то время не было столь мощной как сегодня фармакологии, томографии и т.д.
По поводу же представлений мозга человека, как простого множества биологических клеток - хочу тебе возразить - *за деревьями леса не разглядишь*. smile4.gif
Как структура выделенной ДНК из клетки не расскажет полностью о состоянии человека.
А принципов Вселенной - множество.. скорее всего их бесконечное множество и много неоткрытых пока..и можно сказать так, что реальное существование принципа , как было, например, с рентгеновским излучением
или электромагнитными волнами, начнется тогда, когда кому-то придет в голову мысль - идея о том ,что этот принцип имеет место быть. Ну и доказать. smile4.gif
Anton
28 июля 2012, 23:41

cruizer написал: Можно легко придумать задачу, на которой реальная производительность этого монстрокомпьютера будет равна производительности одного процессора. Например - вычислить факториал большого числа.

?
Прекрасно параллелится.
nezachem
29 июля 2012, 10:16

nikvic написал:
Давным давно у меня появилась гипотеза про сложность "архивирования" алгоритмических процессов. По ней экономный архив длиннющего "лога" процесса запоминается объёмом в логрифм длины лога, и любая запись в этой истории восстанавливается примерно за такое же время.

Было бы интересно послушать.
cruizer
29 июля 2012, 14:05

Gibber написал:
Есть такие понятия - информационная энтропия и избыточность источника информации. Когда последняя близка к нулю, то далее сжать невозможно.

Именно. Поэтому пока непонятно что nikvic имеет в виду.
cruizer
29 июля 2012, 14:14

sintez написал:
В численных методах ошибки могут накапливаться не менее быстро. Вопрос, опять же, в точности.

Но можно ли в аналоговом вычислители наперед предсказать точность? С цифровым все понятно - точность можно оценить при разработке алгоритма. Хотя наверное в аналоговую схему можно добавить элементы, компенсирующие ошибки.

sintez написал: Это в идеальном мире теоретических вычислений с бесконечно большими таблицами. На практике, нельзя.

На практике не нужна бесконечная точность. Компьютеры вычисляют большинство математических функций с использованием таблиц известных значений, а промежуточные вычисляются по упрощенным алгоритмам. Например, насколько я помню, вычисление синуса выполняется с точностью до 10-го значащего знака.
cruizer
29 июля 2012, 14:19

Anton написал:
?
Прекрасно параллелится.

Точно, плохой пример smile.gif
sintez
29 июля 2012, 14:56

cruizer написал: Но можно ли в аналоговом вычислители наперед предсказать точность? С цифровым все понятно - точность можно оценить при разработке алгоритма. Хотя наверное в аналоговую схему можно добавить элементы, компенсирующие ошибки.

Да, там точность известна, причем она довольно мала, но на практике в схемах управления, например, ошибка компенсируется очень быстрым "пересчетом".
Впрочем, я не это имел ввиду. Нельзя говорить, что: "Системы дифур тоже можно решать в реальном времени с любой наперед заданной точностью численными методами".
Точность при разработке алгоритма имеет отношение только к этому теоретическому алгоритму. Практически источников погрешности больше.

cruizer написал: На практике не нужна бесконечная точность. Компьютеры вычисляют большинство математических функций с использованием таблиц известных значений, а промежуточные вычисляются по упрощенным алгоритмам. Например, насколько я помню, вычисление синуса выполняется с точностью до 10-го значащего знака.

Почему именно до 10? В интеловских процессорах всегда есть 15-16 значащих цифр и 18-19, если "не выпускать" число из сопроцессора. Вот только и этого может быть мало. Сложи значение синуса миллион раз и 5-6 значащих цифр потеряно.
Выражение: "На практике не нужна бесконечная точность", лучше заменить на: "задачи, где нужна большая точность, на практике можно и не решать". Типа, и без них хорошо.

cruizer написал: Точно, плохой пример

Хороший пример - это задача Коши (ее решение методом Эйлера, например).
Spolokh
29 июля 2012, 16:48

Crux написал:
Эту точку зрения легко опровергнуть - создать полноценный ИИ, например. Или воспроизвести в лабораторных условиях цепочку химических реакций фотосинтеза. Или четко объяснить физическую природу присоединенных вихрей в аэродинамике. Или методами генной инженерии создать принципиально новый биологический вид. Или проянить природу тяготения. Короче говоря, доказать естественность и самодостаточность тех процессов, работа которых в нашей Матрице обеспечивается самостоятельными алгоритмами (теми, что создателям Матрицы не удалось замаскировать под глобальные законы природы).

Или получить органику из неорганики coquet.gif
cruizer
29 июля 2012, 17:07

sintez написал: Точность при разработке алгоритма имеет отношение только к этому теоретическому алгоритму. Практически источников погрешности больше.

Больше, но их при необходимости тоже реально учесть.

sintez написал: Почему именно до 10? В интеловских процессорах всегда есть 15-16 значащих цифр и 18-19, если "не выпускать" число из сопроцессора. Вот только и этого может быть мало. Сложи значение синуса миллион раз и 5-6 значащих цифр потеряно.

Может 15-16, уже точно не помню. Давно это было.

sintez написал:
Выражение: "На практике не нужна бесконечная точность", лучше заменить на: "задачи, где нужна большая точность, на практике можно и не решать". Типа, и без них хорошо.

Почему сразу не решать? Если для вашей задачи точность процессора недостаточна - можно использовать либу длинной арифметики и поставить любую точность.
sintez
29 июля 2012, 17:21

cruizer написал: Больше, но их при необходимости тоже реально учесть.

Это из серии: любую задачу реально решить. Понятие "реально" в данном контексте может значит многое.

cruizer написал: Почему сразу не решать? Если для вашей задачи точность процессора недостаточна - можно использовать либу длинной арифметики и поставить любую точность.

Теоретически так и есть: можно получить любую точность если время счета не ограничено (т.е. бесконечно). Вывод правильный, но на практике бесполезный.
Rendom
29 июля 2012, 19:00

cruizer написал: Заодно можно сравнить вычислительную мощность с существующими компьютерами.

Как-то некорректно сравнивать в терафлопсах. В лоб, получается.
Человек - это специализированная конструкция, предназначенная для решения определенных задач узкого круга способами, которые кардинально отличаются от того, как функционирует компьютер. Что именно сравнивать? Количество распознанных образов в секунду? Число принятых решений? Правильность?

Тем не менее, в каждом отдельном случае, при известных начальных данных, компьютерная программа справится точнее, быстрее человека. С тем же распознаванием образов.
cruizer
29 июля 2012, 19:48

sintez написал:
Это из серии: любую задачу реально решить. Понятие "реально" в данном контексте может значит многое.

Реально значит можно взять и решить smile.gif Нет никаких проблем оценить погрешность вычислений. Просто к теоретической погрешности алгоритма надо добавить погрешности, возникающие при выполнении каждой операции. Например, точность арифметических операций, ошибки при конвертации из десятичной системы в двоичную и так далее. Правила оценки погрешностей простые, но повозиться конечно придется.

sintez написал: Теоретически так и есть: можно получить любую точность если время счета не ограничено (т.е. бесконечно). Вывод правильный, но на практике бесполезный.

Я бы сказал так - любую наперед заданную точность можно получить за конечное время smile.gif
Понятно что чем большая точность нужна, тем больше ресурсов потребуется.
sintez
29 июля 2012, 21:38

cruizer написал: Просто к теоретической погрешности алгоритма надо добавить погрешности, возникающие при выполнении каждой операции.

В простых методах (типа, численного интегрирования), это все учитывается сразу. В сложных случаях необходимо проверять каждую операцию (не каждую операцию в описании алгоритма, а каждую операцию в ходе выполнения) ибо даже соотношение операндов влияет на погрешность. Это может быть труднее, чем найти приближенное решение.

cruizer написал: Я бы сказал так - любую наперед заданную точность можно получить за конечное время

"Конечное время" - коварное понятие. Время жизни вселенной тоже конечное. И если это время умножить на любое конечное число, оно останется конечным. В общем, это выражение: "любую наперед заданную точность можно получить за конечное время" такое же бесполезное в практическом смысле, как и предыдущее.
homo sapiens
30 июля 2012, 07:31
У меня возник только один вопрос. А зачем вообще сравнивать вычислительную мощность мозга и компьютера?
Rendom
30 июля 2012, 09:45

homo sapiens написал: У меня возник только один вопрос. А зачем вообще сравнивать вычислительную мощность мозга и компьютера?

В смысле, почему человек вообще все сравнивает? Или почему именно до компьютера докопался?
homo sapiens
30 июля 2012, 11:07

Rendom написал:
В смысле, почему человек вообще все сравнивает? Или почему именно до компьютера докопался?

В смысле какая в этом практическая ценность.
Напоминает мне бесконечный спор о битве слона с китом.
Rendom
30 июля 2012, 11:20

homo sapiens написал: В смысле какая в этом практическая ценность.

Вопрос не редко на повестку дня выносится и не первый год.
Crux
30 июля 2012, 12:09

Spolokh написал:
Или получить органику из неорганики coquet.gif

Вы сечете фишку. Но вернемся к нашим баранам кошкам. Задача на распознавание изображения кошки, описанная Хокинсом в книге "Об интеллекте". Для тех, кто уже прочел книгу, три вопроса:

1. Рассчитывал ли Хокинс, когда писал книгу, что сможет когда-либо решить задачу распознавания компьютером кошки (и вообще любого типа объектов)?

2. Удалось ли ему и его фирме Numenta решить эту задачу?

3. Почему они потерпели фиаско, где была ошибка в рассуждениях Хокинса?

homo sapiens написал: У меня возник только один вопрос. А зачем вообще сравнивать вычислительную мощность мозга и компьютера?

У меня возник только один ответ - если мы не хотим создать ИИ, это сравнение бесполезно.
cruizer
30 июля 2012, 12:58

sintez написал: В сложных случаях необходимо проверять каждую операцию (не каждую операцию в описании алгоритма, а каждую операцию в ходе выполнения) ибо даже соотношение операндов влияет на погрешность.

В таких случаях наверное имеет смысл использовать длинную арифметику с фиксированной точкой (fixed point), там более предсказуемо с точностью.

sintez написал: "Конечное время" - коварное понятие. Время жизни вселенной тоже конечное. И если это время умножить на любое конечное число, оно останется конечным. В общем, это выражение: "любую наперед заданную точность можно получить за конечное время" такое же бесполезное в  практическом смысле, как и предыдущее.

Я не понимаю к чему клонишь smile.gif Есть какая-то практическая задача, которая требует такой точности, что время вычислений будет бесконечно или очень-очень велико?
cruizer
30 июля 2012, 13:06

homo sapiens написал:
В смысле какая в этом практическая ценность.
Напоминает мне бесконечный спор о битве слона с китом.


Rendom написал:
Как-то некорректно сравнивать в терафлопсах. В лоб, получается.
Человек - это специализированная конструкция, предназначенная для решения определенных задач узкого круга способами, которые кардинально отличаются от того, как функционирует компьютер. Что именно сравнивать? Количество распознанных образов в секунду? Число принятых решений? Правильность?

Это все очень грубо и не совсем некорректно конечно, но кое-какую оценку все же можно получить. Просто сравниваем количество простых, элементарных операций в мозге и в компьютере. Получаем, что мозг выполняет их больше на много порядков, а значит задача создания ИИ аналогичного человеческому при сегодняшнем уровне технологий не решаема "в лоб", просто моделированием нейронной сети. Это уже значимый практический результат.
Дальше >>
Эта версия форума - с пониженной функциональностью. Для просмотра полной версии со всеми функциями, форматированием, картинками и т. п. нажмите сюда.
Invision Power Board © 2001-2016 Invision Power Services, Inc.
модификация - Яро & Серёга
Хостинг от «Зенон»Сервера компании «ETegro»