Re: Китай попал в "цифровой тупик"

[Sumerk Bogov <ezh@ezhe.ru>]

> "Нейроны" в нейронной сети - это же чистый маркетинг.
> Нет там нейронов, а то, что ими называют, не имеет ничего общего 
> с нейронами головного мозга человека.
 
Не "маркетинг". Придуманы программисткие нейросети были в 1958-м году кабинетными учеными. Воплощено в железе в 1960-м. То есть это еще до зари кибернетики, когда вообще еще рынка не было, и продающиеся идеи IT-авантюристами не искались. IT еще не существовал. 
 
Первое это изделие на программистки сделанной нейросети называлось "перцептрон". Математики вот именно что старались скопировать-смоделировать программистки  биологические нейроны и создать по возможности такую же точно форму их взаимодействия, какая в  биологических нейросетях, из которых состоит мозг. И у них получилось. "Перцептрон" это реально работающая, правильно принимающая управленческие решения нейросеть. 
 
Я перцептрон использовал в своем программистком пет-проекте. Нажимая ногами на педали от компьютерного руля для автомобильных гонок я управлял mp3-плеером, в котором была аудиозапись речи, журналистом взятое интервью. Одна педаль осуществляла "перемотку" назад. Прошу прощения за термин из магнитофонной ленты пошедший. Другая педаль осуществляла перемотку вперед и воспроизведение звука. Разные скорости нажатия-отжатия двух педалей расшифровывались у меня нейросетью-перцептроном и запускали разное поведение mp3-плеера. Скажем быстрое решительное нажатие педали "вперед" на какую-то глубину запускало перемотку вперед с соответствующей глубине нажатия скоростью. Наоборот, медленное нажатие той же педали включало воспроизведение со скоростью 70%, 100%, 130%, 170%, 200% в зависимости от глубины нажатия. Не я сам эту нейросеть запрограммировал, она уже была готовой библиотекой. Я ее лишь встроил и наладил. 
 
По убожеству программисткого мира, ограниченности знаний и кругозора программистов, принимающих решения в крупных проектах нейросети десятилетия подряд развития не получали. Это было связано с тем, что поначалу компьютерам не хватало скорости и памяти для решения задач, а ведь нейросети очень затратны на ресурсы. Через это нейросети остались в книжках об искусственном интеллекте. Причем ничего в этих книжках описанное не выстреливало десятилетия подряд! А сейчас кое-что прицеливается выстрелить: скажем кроме нейросетей сейчас бурно развивающихся, растет инфраструктура Лиспа, называвшегося с первых лет его появления 50 лет наад "языком программирования искусственного интеллекта" из правильной прозорливости и из маркетинговых соображений. 
 
Вот как мыслили программисты эпохи программистской революции: "640 Кбайт должно быть достаточно для каждого" (англ. 640K ought to be enough for anybody) - легендарная фраза, приписывается Биллу Гейтсу, основателю Microsoft, 1981 год, времена создания первых IBM PC и MS DOS 1.0. Между прочим, сам Билл неоднократно утверждал, что он эти слова не говорил, - увы, истину установить уже не представляется возможным, но мы-то знаем! // цитата взята с Лурка
 
Итак, с нейронами с самого начала следующим образом была поставлена задача в 1958-м: "Надо постараться смоделировать программистки все, что мы знаем о реальных биологических нейронах и их взаимодействиях в нервной ткани. А дальше развивать получившиеся модели". 
 
Воплотить это действительно получилось: нейроны программисткой нейросети являются упрощенной точной моделью нейронов нервной ткани. 
 
В нервной ткани нейрон работает так:
У него есть короткие отростки, дендриты. Они которые подсоединены к "источникам информации" - другим нейронам или напрямую к рецепторам органов чувств. Каждый дендрит имеет от этого в каждую единицу времени какой-то электрический потенциал измеряемый в милливатах, по существу навязанный ему извне.  
 
Совокупность напряжений всех этих дендритов внутри "черного ящика" нейрона как-то калькулирует и выражается в конечном итоге в один результирующий электрический потенциал единственного длинного отростка нейрона - аксона. Скажем, в нейронах мышц аксон непосредственно подсоединяется к мышечному волокну и своим электрическим напряжением вызывает напряжение в мышечном волокне, и от этого оно сокращается, и сокращается мышца, которая совокупность таких пучков мышечных волокон. 
 
В нейроне программисткой нейросети это выглядит так, пусть там 55 "дендритов", т.е. 55 "входных" чисел, и одно результирующе число - "выход" он же как бы "аксон":
 
potential_dendrita[0] = 0.004 V
potential_dendrita[1] = 0.000 V
potential_dendrita[2] = 0.014 V
... 
potential_dendrita[54] = 0.008 V
 
и в результате этих напряжений дендритов и с учетом "веса", т.е. значимости, каждого из них, на единственном аксоне устанавливается какое-то значение ("аналог электрического напряжения на аксоне"),
 
Вот он единственный результат нейрона - потенциал на "аксоне" - potential_axon = 0.009 V
 
Типичная задача перцептрона - распознавание буквы на картинке. Пусть буква нарисована на прямоугольнике размером 20x30 пикселов. Площадь получилась 600 пикселов. Значит, создается 600 нейронов первого слоя. Второй слой выходной. В нем 32 нейрона - по числу русских букв. Перцептрону показывают картинку буквы, а он должен ответить, какая эта буква. Ему показывают картинку размером 20х30 пикселов, а он должен показать, какой из 32 выходных нейронов у него напряжен больше других - это и будет его предположение о букве. 
 
Начинается с того, что его долго "учат" - т.е. показывают ему сотни или сотни миллионов картинок букв 20х30 пикселов размером более или менее хорошо нарисованных или даже ужасно нарисованных, и сообщают ему, какая там буква. Вот это обучение - колдовство для меня и других рукожопых программистов не понятное. Оно доступное для понимания только специально под это заточившимся и с математическим вузовским образованием программистам. Вот тут оно, колдовство и оно дает жрецам-программистам кафедру для жреческих высказываний, что нейроны программисткие не такие, как биологические. 
 
Естественно, о биологических нейронах программисты мало знают и оттого решительно изъясняются в рамках феномена Дансинга-Крюгера. 
 
При этом обучение программистких нейросетей может осуществляться действительно совсем не так, как биологических. Тем более, как в биологических это происходит, не прозрачно до сих пор, и не описано доступным языком. Программисты-технофашисты считают, что раз у них в руках формулы математические - то они от биологии полностью уже оторвались. А не обязательно. Так например мелодия музыкальная человеком любимая  - это именно что формула. Мозг формулу мелодии вывел и именно формулу в себя записал. Отсюда - мелодия узнается не зависимо от того с какой амплитудой, в каких тональностях она исполняется и какими тембрами. Хоть оркестром, хоть пищалкой  - мозг все тембры отбрасывает, и выводит формулу: длительности звучания звуков и пауз, и скачки высоты. 
 
Когда-то я себя даже убедил, что мозг вероятно производит разложение Ферма, когда воспринимает звуки - то есть,  производит буквально математические вычисления, сам придумав, как их делать. Но это не доказано. 
 
Таким образом, 25 января оказалось "днем троллинга" на ЕЖЕлисте. Выражались идеи, что
 
- США не хакнут весь мир в кибервойне, имея работающих в спецслужбах контрибуторов во всех значимых опенсорсных проектах евроатлантической цивилизации
 
- нейроны нейросетей не похожи на нейроны головного мозга
 
- США увечат мозги всему Западу через лгбт-блм в интересах, чтобы Китай скупил весь мир   
 
Энтропия ЕЖЕлиста растет :)
------------------
Целую вечность,
Сумерк Богов
 
Оценить письмо Reputatio: http://ezhe.ru/reputatio/61265906a3