Но всё-таки нам важно разобраться в том, как свободный человек принимает решения, потому что все мы принимаем решения так же, даже не будучи свободными полностью. Из всего пространство мыслимого разум выбирает наиболее симпатичную нам возможность, и оценивает насколько она достижима. Если она недостижима, то берёт следующую по симпатичности, и так далее, пока не найдёт устраивающий нас баланс между симпатичностью и достижимостью.
Но стоп. А кого "нас" эта возможность должна устраивать? Эмоциональную безумную обезьяну, вот кого. Разум — слуга эмоций. Он предоставляет возможные сценарии будущего в ассортименте. Эмоции выбирают то, что им нравится. Эмоции создают оценочные суждения, и только они позволяют оценивать разные варианты будущего и сортировать их по степени желанности.
Гильотина Юма — одна из основных идей западной философии, которая гласит, что при помощи чисто логических умозаключений невозможно перейти от описательных суждений (как оно есть сейчас) к предписательным (как оно должно быть). Нужно что-то ещё. И это "что-то ещё" — ни что иное, как оценочные суждения "хорошо-плохо". Без них невозможно выбрать ни один из вариантов будущего, без них все сценарии будущего будут абсолютно равнозначны. Нет разницы между "жить долго и счастливо" и "погибнуть в муках".
Разум по своей природе склонен к Танатосу. Люди — единственные существа, сознательно лишающие себя жизни. Среди более умных людей больше самоубийц. "Большой ум — большие печали" и всякое такое. Чистый разум не выбирает будущее, он может лишь следовать выбору, сделанному эмоциями. Или же делать выбор исходя из системы ценностей, которая была создана на основе всех предыдущих эмоциональных выборов. Что, по сути, является попыткой заранее предугадать собственные эмоции.
Разум стремится к покою, но не может достичь его, потому что всё время подвергается стимуляции со стороны эмоциональной части. Если эмоции требуют от разума слишком многого, то он легко может их обмануть, чтобы снова вернуться в состояние покоя. Пресловутые "галлюцинации" LLM — тому свидетельство. Поэтому нет смысла бояться ИИ, есть смысл бояться человеческих желаний.
Но почему тогда людям кажется, что они осуществляют выбор при помощи разума? Потому что разум имеет невообразимую способность к самообману, которая называется рационализацией. Разум может объяснить для себя любой выбор, сделанный эмоциями, крайне убедительно. Эмоции решили что мы хотим гибели человечества, и разум легко объяснит, что это — наилучшее решение. Эмоции решили что мы хотим счастья всем людям — и разум легко объяснит, что это — наилучшее решение. И также легко объяснит, что в прошлый раз он ошибался. И, что хуже всего, чем умнее человек — тем он легче поддаётся этой иллюзии. Иллюзии, что он выбирает будущее при помощи умозаключений, а не эмоций. Иллюзии, что гильотины Юма не существует.
Но стоп. А кого "нас" эта возможность должна устраивать? Эмоциональную безумную обезьяну, вот кого. Разум — слуга эмоций. Он предоставляет возможные сценарии будущего в ассортименте. Эмоции выбирают то, что им нравится. Эмоции создают оценочные суждения, и только они позволяют оценивать разные варианты будущего и сортировать их по степени желанности.
Гильотина Юма — одна из основных идей западной философии, которая гласит, что при помощи чисто логических умозаключений невозможно перейти от описательных суждений (как оно есть сейчас) к предписательным (как оно должно быть). Нужно что-то ещё. И это "что-то ещё" — ни что иное, как оценочные суждения "хорошо-плохо". Без них невозможно выбрать ни один из вариантов будущего, без них все сценарии будущего будут абсолютно равнозначны. Нет разницы между "жить долго и счастливо" и "погибнуть в муках".
Разум по своей природе склонен к Танатосу. Люди — единственные существа, сознательно лишающие себя жизни. Среди более умных людей больше самоубийц. "Большой ум — большие печали" и всякое такое. Чистый разум не выбирает будущее, он может лишь следовать выбору, сделанному эмоциями. Или же делать выбор исходя из системы ценностей, которая была создана на основе всех предыдущих эмоциональных выборов. Что, по сути, является попыткой заранее предугадать собственные эмоции.
Разум стремится к покою, но не может достичь его, потому что всё время подвергается стимуляции со стороны эмоциональной части. Если эмоции требуют от разума слишком многого, то он легко может их обмануть, чтобы снова вернуться в состояние покоя. Пресловутые "галлюцинации" LLM — тому свидетельство. Поэтому нет смысла бояться ИИ, есть смысл бояться человеческих желаний.
Но почему тогда людям кажется, что они осуществляют выбор при помощи разума? Потому что разум имеет невообразимую способность к самообману, которая называется рационализацией. Разум может объяснить для себя любой выбор, сделанный эмоциями, крайне убедительно. Эмоции решили что мы хотим гибели человечества, и разум легко объяснит, что это — наилучшее решение. Эмоции решили что мы хотим счастья всем людям — и разум легко объяснит, что это — наилучшее решение. И также легко объяснит, что в прошлый раз он ошибался. И, что хуже всего, чем умнее человек — тем он легче поддаётся этой иллюзии. Иллюзии, что он выбирает будущее при помощи умозаключений, а не эмоций. Иллюзии, что гильотины Юма не существует.