UA Пауза (k) 2:03:37 / 3:22:01 Заменит ли Искусственный Интеллект Человека? / Технологическая Сингулярность

 

Юрий Окуловский, Senior Data Scientist, PhD и основатель "Witness of singularity".

...У Харари хорошо сказано, ...

...когда что-то превосходит человека по интеллектуальным способностям, оно придумывает свой язык.

И описание действительности этим языком, порождает бытие которое нам совершенно недоступно, потому что оно находится в другом словаре.

 

Это очень легко проилюстрировать, ...,

Известно, что в человека можно вбить формальную логику. Это очень непросто, я пару раз вел пары на филологическом факультете, я должен сказать что это очень непросто. Но, если это делать последовательно и целенаправлено, то можно в человека вбить логику, лет до 25ти. Потом уже поздно.

И можно сделать так, что человек будет логически верифицирвать все что он говорит и делает.

 

Но! Вот вероятностный вывод в человека уже не вбить. Невозможно сделать так, чтобы человек все свои выводы валидировал вероятностным выводом.

И вот все ошибки мышления, ... их можно решить. А вот все что связано с байесовскими хитростями, вот эти ошибки мышления, их ликвидировать уже невозможно. Ты каждый раз должен садиться и считать. И только так ты поймешь - ошибся ты в данном случае, или нет. Пока ты не взял в руки бумагу и ручку, ты этого не поймешь.

 

Соответветственно мы не можем интернировать вот эту вероятностную интерпретацию мира в себя. Поэтому мы думаем в бинарных категориях, или А, или Б. На самом же ведь деле, оно с такой-то вероятностью А, и с такой-то Б, и с диапазоном других В, Г, с вероятностями, которые в итоге выстреливают.

Если ИИ удастья овладеть этим языком описания действительности, что весьма вероятно, потому что он на этом и основан, мы не сможем понять ни его логику, ни его выводы

 

 

«всем известно» или «да это же элементарно и всё знают»

 

Anton Antich

  ·

Продолжая по касательной пост про образование и анализ данных - тут мем как раз прекрасный попался на эту тему.

Вы знаете, как формируется *огромное* количество так называемого „common knowledge“ в современном мире - ну типа такого, про которое говорят «всем известно» или «да это же элементарно и всё знают» и прочее? 

Not a hill to die on

Если бы меня попросили свести философию американского общения к одной единственной формулировке, то я, пожалуй, выбрал бы такую:

Not a hill to die on. Не тот холм, на котором стоит умирать

Это выражение употребляют, когда хотят избежать ненужного спора или конфликта. Говорят тебе допустим “Страшнее кошки зверя нет”. А ты отвечаешь, что может и есть, но принимать свой последний бой на этом холме ты не будешь. В плане - тебе фиолетово, и ты не хочешь спорить на эту тему 

Русскую же философию общения, в противоположность американской, можно было бы описать так:

Every hill is a hill to die on

Именно так классический постсовок мог бы ответить политкорректному американцу

Ведь откуда берется американская политкорректность и обтекаемость? Из желания минимизировать ненужные конфликты. Вопрос - а зачем их минимизировать? Потому что они пожирают ресурсы и энергию, которую можно было бы направить на действительно важные дела.
(c) Камиль Галеев

Российское общество не готово к всеобщей мобилизации

 Научный сотрудник Политехнического университета Вирджинии (США), кандидат политических наук Мария Снеговая рассказала UKRLIFE.TV о военных настроениях в российском обществе. Интервью провела Людмила Немиря. Читайте канал Марии Снеговой в Telegram: https://t.me/mariasnegovaya

 

 

Виновата ли «русская культура»?

То, что мы наблюдаем сейчас в России, — победа великой русской культуры. Сейчас на кремлевском троне сидит тот самый маленький человек, духовный сын Акакия Акакиевича или даже сам Акакий Акакиевич. Только он волею судеб — все того же античного Фатума — дополз до верхушки карьерной лестницы. И шинелей у него теперь полный шкаф. И стол необозримый. И бояре перед ним пополам складываются. И красной кнопочкой он играется, как изящным брелоком.

Но сам он по-прежнему маленький и теряется в грохоте истории, как блоха в меховом воротнике. Русская культура всю свою историю лелеяла чмо — и оно выросло, расцвело, того и гляди покроется ядерными грибами.

Но так и не повзрослело.

 

Виновата ли «культура»?

 

Да. Поскольку культура — это не Большой театр, не Репин с Кандинским, и даже не Лев Толстой с романом «Спецоперация и мир». Не набор артефактов, как нас учила советская еще школа и как нравится думать всем любителям «великой русской культуры», апеллирующей к шедевра.

...

Культура — это, в первую очередь, система ценностей, положенная в основу мировоззрения конкретного человека и целого сообщества. И если в рамках некой «великой культуры» выросло поколение людей, способных большинством голосов поддержать ракетный обстрел родильного дома, ни Достоевский (что там про «слезинку ребенка»?), ни даже весь репертуар Мариинского театра не может эту культуру оправдать.

...

В том, что происходит сейчас в Украине, русская культура несет ответственность наряду с российским оружием. Потому что именно она поставляет в российские мозги представления о том, что такое хорошо и что такое плохо.

...

Культура — не заповедник, где можно сохранить одежды белыми (хотя многие «хорошие русские» изо всех сил стараются убедить в этом себя и заодно всех остальных). ...

Культура — это статья обвинения.

zn.ua ART russkaja-kultura 

 

Интеллект — это способность видеть паттерны, cознание, cвобода воли

FB Andrew Potapov

Сегодня хочу поделиться саммари одного из самых интересных подкастов за всю историю подкастов. Йоша Бах (когнитивист, исследователь) + Лекс Фиридман. 2 части (в сумме более 6 часов).
Я, наверное, раз 5 пересушивал первую часть и каждый раз находил в ней инсайты, новые грани и оттенки смысла. Вторую часть я пока прошел наполовину и она не уступает первой. Йоша умеет максимально емко и точно использовать слова и метафоры для описания крайне сложных и контр-интуитивных концепций.
🔗 Интеллект
Интеллект — это способность видеть паттерны.
Чем сложнее паттерны мы можем видеть, тем “выше” у нас интеллект.
Чтобы видеть паттерны, нужно уметь строить модели мира.
Мы строим модели нашего дома, поведенческие модели людей вокруг, модели биологических и экономических взаимодействий. В конечном итоге: всей вселенной.
В отличие от других живых существ, модель мира человека включает его самого. В моей модели мира присутствую Я как субъект, все остальные модели выстраиваются относительно этого Я. Когда AI научится делать так же, возможно он обретет некую форму сознания. Но это не точно…

Человек не может думать постоянно

До некоторого времени считалось, что люди в большинстве своем мыслят рационально, здраво. А уж если мы здраво не мыслим – значит виной тому эмоции, и только они мешают жить и мыслить рационально. Однако мы даже не предполагаем, что наш мозг просто изначально запрограммирован на совершение ошибок и принятие неправильных решений.

Спасибо Канеману и его книге «Думай медленно, решай быстро», теперь мы знаем, что мозг наш работает в формате двух систем – системы медленного и быстрого мышления. Он устроен так, чтобы максимально сохранять энергию и при этом получать по максимуму пользы. Когда мы мечтаем, как бы так сделать, чтобы работать поменьше, а получать при этом побольше – это не мы такие плохие, ужасные и меркантильные, это ровно то, что наш организм от нас требует. Мы так устроены. Так что все ОК: мы работаем в режиме энергосбережения.

Наш мозг хранит практически всю когда-либо увиденную и услышанную информацию – каждый листочек каждого дерева, каждый звук в толпе, каждое ощущение – все попадает в некую систему хранения. Конечно, мозг делает все, чтобы мы не сошли с ума, поэтому дает нам возможность забывать всю эту информацию – но при этом хранить ее он не перестает. Никогда. Мы не можем отключить или стереть что-то из памяти по собственному желанию. Каждый раз, когда от нас требуется принять какое-то решение, мы автоматически используем систему быстрого мышления – даже не задумываясь об этом, оно вообще «как-то само».

Wokeism: идеология

оригинал https://ivanov-petrov.livejournal.com/2287616.html

Достойный юзер redstarcreative написал несколько комментариев, где кратко охарактеризовал историю и нынешнее состояние господствующей в свободном мире идеологии. Тема для многих крайне актуальная, а такого краткого и ясного изложения еще поискать. Этот юзер потом сам перевел свои комментарии в небольшой текст и прислал мне личным сообщением. Я предложил ему это разместить в его журнале, но он не стал этого делать. Мне жалко, если пропадет - хорошая же вещь.

Поэтому размещаю эту работу юзера redstarcreative

Идеология wokeism'а или социальной справедливости (СС) еще ждет своего исследователя. Попытаюсь дальше вкратце перечислить основные корни и положения этого интеллектуально-философского активистского течения. 

В IT(и не только)-образовании не работают лекции

 Учить факты — это декларативное знание, а учить, как что-то делать, — процедурное. Это два абсолютно разных процесса. Если вы хотите научить студентов решать какие-либо проблемы, вам необходимо предоставить им возможность делать это на практике».

 Мозгу нужна практика

Наш ум, память, навыки — это все мозг. А мозг — материальный орган, и в нем много банальных физических ограничений. Я помню, как меня ошеломило осознание того, что все знания, которые мы получаем, имеют вполне реальный вес в голове.

«Есть знаменитая история о лондонских таксистах, — рассказывала об этом Ася Казанцева. — Буквально несколько лет назад для того, чтобы стать настоящим таксистом в Лондоне, нужно было сдать экзамен по ориентации в городе без навигатора — то есть знать как минимум две с половиной тысячи улиц, одностороннее движение, дорожные знаки, запреты на остановку, а также уметь выстроить оптимальный маршрут. Ученые сделали [таксистам] томограмму, чтобы посмотреть плотность серого вещества в гиппокампе. Это важная зона мозга, связанная с формированием памяти и пространственным мышлением. Обнаружилось, что если человек не хотел становиться таксистом или хотел, но не стал, то плотность серого вещества в его гиппокампе оставалась прежней. А вот если он хотел стать таксистом, прошел тренинг и действительно овладел новой профессией, то плотность серого вещества увеличилась на треть — это очень много».
...
«Когнитивисты считают, что обучение — это внутренний процесс, в котором задействованы мышление, память, рефлексия, мотивация и метапознание, — пишет в своей работе Мария Джанелли, педагог Американского музея естественной истории и аспирант Городского университета Нью-Йорка. — Информация воспринимается разными органами чувств, обрабатывается оперативной памятью, ресурсы которой ограниченны, а затем поступает в долговременную память, не имеющую ограничений. Долговременная память организует сложный материал в схемы, таким образом сокращая нагрузку на оперативную память и увеличивая ее потенциал. На производительность оперативной памяти могут влиять как сущностные характеристики обрабатываемого материала (его природа), так и внешние условия (способы подачи материала). Если слишком большой объем материала подается так, что не может быть обработан оперативной памятью и перенесен в долговременную, возникает когнитивная перегрузка».

вся статья habr.com

Тени завтрашнего дня, 1935г

“В обществе с обязательным народным образованием, всеобщей и немедленной гласностью событий повседневной жизни и широко проведенным разделением труда средний индивидуум всё реже и реже оказывается в условиях, где от него требуются собственное мышление и самопроявление…”

“Средний житель в странах Запада сегодня информирован обо всём понемногу. Рядом с завтраком на столе у него лежит утренняя газета, и достаточно протянуть руку, чтобы включить радиоприемник. Вечером его ждет синематограф, карточная игра или компания, и это после того, как он целый день, провел в конторе или на заводе, ничему существенному его не научивших…”

“…там, где его воодушевляет искреннее стремление к знанию или красоте, из-за назойливого действующего аппарата культуры ему грозит реальная опасность приобрести свои понятия и суждения извне, в абсолютно готовом виде. Такое пестрое и в то же время поверхностное знание, такой духовный горизонт, слишком широкий для глаз, не вооруженных критической оптикой, должны неминуемо привести к упадку способности суждения”. 

Подробнее

Ожирение — расслаблять и вовлекать

 Статья объемная, и хотя ее тема озвучена в самом заголовке, она о том как мало мы в действительности знаем о человеке, и самое интересное - как редко задаются правильные вопросы

Ожирение — расслаблять и вовлекать

Российские студенты, или отчего качество выпускников низкое

1. Привычка искать готовое

Студентам дается задание прочесть текст. Затем на основе этого текста преподаватель задает вопросы, инициируя дискуссию. Вопросы формулируются таким образом, что на них нельзя ответить, просто повторив какой-то фрагмент текста, скорее, следует сформулировать аргумент, отсылающий к проблемам более общего порядка.
С этим россиянам справиться было очень тяжело. Они привыкли, что ответ содержится в самом тексте, и по привычке искали его там. Не найдя такого ответа, просто молчали.

2. Неумение рассуждать

Как выяснилось, студенты вообще неправильно понимают, что такое аргумент и из каких частей состоит. ...российские студенты неверно понимают сам термин. Они полагали, что "аргумент" = "мнение", то есть, собственное ценностное суждение. На самом же деле аргумент - это сложная, определенным образом упорядоченная ЦЕПОЧКА РАССУЖДЕНИЙ, которая МОЖЕТ выражать суждение (а может и не выражать).
В результате студенты, когда получали задание исследовать материал, просто делились субъективными впечатлениями о прочитанном, о собственных чувствах и мыслях...
Когда же они писали рецензию, то либо просто писали изложение, либо отдавались творческому самовыражению в духе потока сознания, игнорируя любые формальные правила.

3. Страх ошибиться

Российские студенты поднимают руку лишь в том случае, если они уверены в том, что их ответ будет соответствовать ожиданиям профессора. При этом весь процесс похож на социальную игру: студент поднимает руку и дает ответ. Другие студенты пристально смотрят на преподавателя, пытаясь понять, одобряет он этот ответ или нет, и, в зависимости от результата, корректируют свое поведение.

4. Поиск правильного ответа

Россиян никто не учил задавать вопросы, которые могут развивать дискуссию и указывать на противоречия и неясные моменты темы. Интересно, что они и сами, кажется, не считают, что такая дискуссия будет полезна. Подспудно они полагают, что на любой вопрос есть один-единственный правильный ответ, и их задача - найти его.

5. Критика = смерть

Для российских студентов изменить свою точку зрения означает признать свое поражение в кровавом бою. Поэтому они будут защищать свою исходную позицию до конца, любыми возможными способами отстаивая свою правоту.
Им крайне тяжело пересматривать собственные предпосылки. Они выстраивают свои рассуждения на зачастую шатких, заранее необъективных суждениях - лишь потому, что эти суждения им знакомы, или же эти суждения были услышаны ими в первую очередь и чем-то пришлись по душе.
Им свойственно идентифицировать собственную личность с той идеей, которую они приняли. Соответственно, когда эту идею критикуют, студенты воспринимают это как критику их самих - и пытаются защититься любыми способами.

8. Информация неоспорима

Студенты не могут отличить суждение автора текста от суждений, которые он цитирует. По их мнению, если автор цитирует какой-то материал, это означает, что он с ним согласен. Мало того, что это не всегда так, но ведь есть же процесс создания материала: открытие, верификация, развитие идеи, вывод, обсуждения - и в каждой части авторская мысль может претерпевать изменения. Когда студентам объяснили про это, это взорвало им мозг. Они привыкли к одной, "хрестоматийной" подаче материала - когда есть одна-единственная единица информации, она неоспорима и ее следует заучить.

11. Нет своей темы

Фундаментальной проблемой, с которой столкнулись все студенты, оказалась разработка собственной темы. К этому они определенно не привыкли. Преподаватели были открыты для самых различных предложений, но предупреждали студентов, что идеи должны были быть связаны хотя бы с двумя текстами, обсуждавшимися в течение курса. Таким образом предполагалось, что темой будет собственное рассуждение, связанное с прочитанными текстами. Это оказалось одним из труднейших вызовов.

12. Неумение работать с черновиками

Студенты также не привыкли работать над своим эссе, двигаясь от черновика к черновику. И сколько бы преподаватель не предлагал перерабатывать первые черновики, им все равно не удавалось значительно их перестроить. Стоит им достигнуть обозначенного количества слов или страниц, они считают, что работа выполнена. Практически все студенты стремятся написать эссе за один раз (по Людмиле Прима)

Полный текст