Юрий Окуловский, Senior Data Scientist, PhD и основатель "Witness of singularity".
...У Харари хорошо сказано, ...
...когда что-то превосходит человека по интеллектуальным способностям, оно придумывает свой язык.
И описание действительности этим языком, порождает бытие которое нам совершенно недоступно, потому что оно находится в другом словаре.
Это очень легко проилюстрировать, ...,
Известно, что в человека можно вбить формальную логику. Это очень непросто, я пару раз вел пары на филологическом факультете, я должен сказать что это очень непросто. Но, если это делать последовательно и целенаправлено, то можно в человека вбить логику, лет до 25ти. Потом уже поздно.
И можно сделать так, что человек будет логически верифицирвать все что он говорит и делает.
Но! Вот вероятностный вывод в человека уже не вбить. Невозможно сделать так, чтобы человек все свои выводы валидировал вероятностным выводом.
И вот все ошибки мышления, ... их можно решить. А вот все что связано с байесовскими хитростями, вот эти ошибки мышления, их ликвидировать уже невозможно. Ты каждый раз должен садиться и считать. И только так ты поймешь - ошибся ты в данном случае, или нет. Пока ты не взял в руки бумагу и ручку, ты этого не поймешь.
Соответветственно мы не можем интернировать вот эту вероятностную интерпретацию мира в себя. Поэтому мы думаем в бинарных категориях, или А, или Б. На самом же ведь деле, оно с такой-то вероятностью А, и с такой-то Б, и с диапазоном других В, Г, с вероятностями, которые в итоге выстреливают.
Если ИИ удастья овладеть этим языком описания действительности, что весьма вероятно, потому что он на этом и основан, мы не сможем понять ни его логику, ни его выводы
