Проблема непрерывности сознания: различия между версиями
Нет описания правки |
мНет описания правки |
||
(не показано 68 промежуточных версий 2 участников) | |||
Строка 1: | Строка 1: | ||
'''Добро пожаловать в черновик черновика.''' | |||
Если вы читаете этот текст, то легко предположить, что вы бы хотели повысить качество своей жизни и увеличить её срок при помощи технологий. Человечество делает это уже очень долго: трудно поспорить с тем, что медик, удаляющий ваш больной зуб, вмешивается в естественные процессы, делая вашу жизнь проще. В случае удалённого зуба или даже замены его протезом, очень легко сказать, что вы остались собой. Гораздо меньше людей согласятся с тем, что хирургическое вмешательство в работу мозга или его травма позволит вам остаться собой. | |||
* | У нас нет одного чёткого ответа на вопрос "что такое сознание?". Вместо этого, у нас есть «[https://ru.wikipedia.org/wiki/%D0%A2%D1%80%D1%83%D0%B4%D0%BD%D0%B0%D1%8F_%D0%BF%D1%80%D0%BE%D0%B1%D0%BB%D0%B5%D0%BC%D0%B0_%D1%81%D0%BE%D0%B7%D0%BD%D0%B0%D0%BD%D0%B8%D1%8F Трудная проблема сознания]» — вопрос о том, почему мы в принципе ощущаем мир, как есть, почему наше сознание отличает ''зелёный цвет'' и ''ноту до на фортепьяно'', ''радость'' и ''просроченные счета'' по разному. Каждое из этих ощущений входит в группу [https://ru.wikipedia.org/wiki/%D0%9A%D0%B2%D0%B0%D0%BB%D0%B8%D0%B0 квалиа]. [[Трудная проблема сознания]] - в том, что мы не понимаем, '''как мозг создаёт квалиа'''. | ||
У нас нет свидетельств о том, что наше мышление, восприятие чувств и другие функции зависят от чего-то кроме нервной активности. Более того, существуют такие идеи, как «[https://ru.wikipedia.org/wiki/%D0%A1%D0%BE%D0%BB%D0%B8%D0%BF%D1%81%D0%B8%D0%B7%D0%BC солипсизм]» и «[https://ru.wikipedia.org/wiki/%D0%9C%D0%BE%D0%B7%D0%B3_%D0%B2_%D0%BA%D0%BE%D0%BB%D0%B1%D0%B5 мозг в колбе]», где всё, что нас окружает не отражает физическую реальность. Так появляется множество новых вопросов: | |||
* «Где вообще проходит граница между сознанием и всем, что не является нами? (Телом, спинномозговыми рефлексами, реакциями, которые не контролируются сознанием вроде страха.)» | |||
* «Останемся ли мы собой, если убрать эти автоматические реакции или заменить их на другие?» | * «Останемся ли мы собой, если убрать эти автоматические реакции или заменить их на другие?» | ||
* «Есть ли в принципе части нас, которые мы контролируем и части, которые мы не контролируем?» | * «Есть ли в принципе части нас, которые мы контролируем и части, которые мы не контролируем?» | ||
* | * «Можно ли сказать, что личность не меняется при добавлении новых чувств?» | ||
* | * «Остаёмся ли мы собой в случае добавления [[нейро-имплантат]]а?» | ||
* | * «Не занимает ли наше место робот с нашими воспоминаниями при загрузке сознания?» | ||
Нам не нужно фокусироваться и разбирать данные, чтобы видеть или слышать, нам не нужно концентрироваться, чтобы засыпать, ходить, говорить или даже вспоминать большинство повседневных вещей. С другой стороны, мы не можем сказать, что человек остаётся собой без воспоминаний. | |||
Пока у нас нет чёткой терминологии и свидетельств, ответить на эти вопросы однозначно будет очень сложно. Вместо этого здесь есть место идеям и свидетельствам, которые позволят сказать, какое вмешательство допустимо, а какое — нет. | |||
== Мысленные эксперименты == | |||
=== [https://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D1%80%D0%B0%D0%B1%D0%BB%D1%8C_%D0%A2%D0%B5%D1%81%D0%B5%D1%8F Парадокс Арго] === | |||
Если все составные части исходного объекта были заменены, остаётся ли объект тем же объектом? | |||
Как мы обсудили ранее, мы с лёгкостью расстанемся с больным зубом у стоматолога. Мы не говорим о человеке, которому заменили сердце, как о ком-то другом. Однако друзья [[Финеас Гейдж|Финеаса Гейджа]], получившего травму мозга, говорили, что «это больше не Гейдж». | |||
Интуитивно, замена каждой клетки воспринимается с меньшим энтузиазмом, но это гораздо менее инвазивная процедура, наше тело делает это без нашего участия. | |||
== Свидетельства == | |||
=== Поведение определяется работой центров мозга === | |||
В 1848 году, бригадир взрывников по имени Финеас Гейдж ([https://en.wikipedia.org/wiki/Phineas_Gage Phineas Gage]) получил тяжёлое ранение головы вследствие взрыва: лом диаметром 3.2 сантиметра прошёл в его череп насквозь. Так он лишился большей части лобной доли левого полушария головного мозга и пришёл в сознание спустя несколько минут после травмы. Он оправился от инфекции, но по словам друзей, он «не был собой». | |||
Также есть множество публикаций о том, что поведение человека меняется вследствие [https://en.wikipedia.org/wiki/Transcranial_magnetic_stimulation транскраниальной магнитной стимуляции мозга], но когда она останавливается, поведение человека становится прежним. | |||
== Важность непрерывности == | |||
Мозг состоит из отделов. Эти отделы активны, когда результат их работы нужен и выключены в остальное время. Для этого есть множество примеров. | |||
=== | Зрительная кора не будет показывать трясущуюся картинку, поступающую на глаз посреди посреди их регулярных перемещений ([https://ru.wikipedia.org/wiki/%D0%A1%D0%B0%D0%BA%D0%BA%D0%B0%D0%B4%D0%B0 саккад]). Она даже не вспомнит о чьём-то лице, когда оно находится в слепом пятне, а вы знаете, что оно там. Зато она перекрасит цвета в тех зонах зрения, где глаз видит практически чёрно-белую картинку.<ref name="foone_notes">[https://twitter.com/Foone/status/1014267515696922624 заметки Foone] о зрительной коре</ref> Моторная кора не позволит сделать вам сальто в реальном мире, пока вы спите. | ||
* | Трудно поспорить с тем, что мозг будет не полностью активен, когда человек спит, находится под наркозом при операции, упал в обморок. Нарушается ли в этом контексте непрерывность сознания? Просыпается ли тот же человек, который уснул? Что насчёт пациента при операции? | ||
* | |||
* | === Постепенная замена или ремонт клеток наномашинами === | ||
* | |||
Будет нечестно рассмотреть тему непрерывности сознания только с одной стороны. | |||
Я часто слышу доводы против загрузки сознания, которые сводятся к одному предложению вроде «это будет просто копия», но одна из технологий однозначно помешает так рассуждать. А именно, наномашины. | |||
Мы состоим из клеток, которые выполняют самые разные функции. Если нашей цивилизации повезёт создать наномашины, ремонт клеток и полная замена каждой отдельной клетки на наномашину, лучше справляющуюся с задачей оригинальной клетки будет инженерной, а не исследовательской задачей. Загрузка сознания из совместимых с этим наномашин тоже не звучит, как нечто невозможное и неправильное. | |||
Когда мы говорим о себе, мы редко упоминаем, что с нашего детства все клетки организма обновились очень часто. | |||
Таким образом, в данном конкретном случае будет очень сложно определить момент, когда кто-то превратился из оригинала в копию. | |||
Моё личное мнение в том, что этого момента нет, обновление клеток мозга тоже происходит, хоть и крайне редко в сравнении с остальными. | |||
Этот вариант звучит наиболее оптимистично и близко к «они жили долго и счастливо», поэтому я слышу о нём реже всего. | |||
=== [[Крионика|Заморозка мозга]] === | |||
При заморозке мозга [https://ru.wikipedia.org/wiki/%D0%9D%D0%B5%D0%B9%D1%80%D0%BE%D0%BC%D0%B5%D0%B4%D0%B8%D0%B0%D1%82%D0%BE%D1%80 нейромедиаторы] не смогут пройти между синапсами. Я допускаю, что его активность останавливается целиком. | |||
Процесс «создания квалиа из ощущений» прерывался. | |||
Ощущения до заморозки резко отличаются от ощущений после. | |||
Можно ли сказать, что просыпается новое сознание? | |||
Лёд - отличный изолятор для постоянного тока. Для переменного тока он остаётся хорошим изолятором до 1 кГц, а после уже не настолько хорош. <ref>[http://web.archive.org/web/20170429072001/http://www.dtic.mil/dtic/tr/fulltext/u2/a270432.pdf Electrical Properties of Ice, Victor F. Petrenko, Aug 1993].</ref> <ref>[https://www.quora.com/What-is-electrical-resistance-of-Ice Quora], вопрос о сопротивлении льда</ref> | |||
{{Запрос экспертизы | |||
|text=Нужны данные о том, могут ли функционировать при температуре ниже нуля [https://ru.wikipedia.org/wiki/%D0%AD%D0%BB%D0%B5%D0%BA%D1%82%D1%80%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9_%D1%81%D0%B8%D0%BD%D0%B0%D0%BF%D1%81 электрические синапсы]. | |||
Хорошим примером будет статья, где рассматривается культура нейронов, подключённая к [https://ru.wikipedia.org/wiki/%D0%90%D0%BD%D0%B0%D0%BB%D0%BE%D0%B3%D0%BE-%D1%86%D0%B8%D1%84%D1%80%D0%BE%D0%B2%D0%BE%D0%B9_%D0%BF%D1%80%D0%B5%D0%BE%D0%B1%D1%80%D0%B0%D0%B7%D0%BE%D0%B2%D0%B0%D1%82%D0%B5%D0%BB%D1%8C АЦП], который ведёт запись любых электрических сигналов при температуре ниже нуля. | |||
|qualification=Нейробиолог | |||
}} | |||
{{Запрос экспертизы | |||
| text=Поскольку мозг пациента [[Alcor]] хранится при температурах, достигающих -196°C, будет полезной информация о том, могут ли срабатывать при этой температуре нейроны, соединённые [https://ru.wikipedia.org/wiki/%D0%AD%D0%BB%D0%B5%D0%BA%D1%82%D1%80%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9_%D1%81%D0%B8%D0%BD%D0%B0%D0%BF%D1%81 электрическими синапсами] и насколько долго. | |||
| qualification=нейробиолог | |||
}} | |||
=== Мысленный эксперимент: нейронные цепочки и конечные автоматы === | |||
Я хочу задать вопрос: всегда ли верно говорить о цепочках нейронов, как о чём-то, что имеет непрерывную активность? | |||
Давайте проведём мысленный эксперимент. | |||
В биологии часто встречается цепочка нейронов, которая производит импульсы сама, без входа. | |||
Давайте рассмотрим простой пример. | |||
У нас есть два нейрона, '''А''' и '''Б'''. | |||
Дендрит нейрона А подключён к аксону нейрона Б. | |||
Дендрит нейрона Б подключён к аксону нейрона А. | |||
Аксон нейрона А также соединён с другими нейронами, т.е. выдаёт «выходной сигнал». | |||
Подобная цепочка называется «{{Abbr url|central pattern generator|CPG|https://en.wikipedia.org/wiki/Central_pattern_generator}}». | |||
Мой набросок позволяет мне донести идею, хотя и далеко не идеален. (Я рекомендую изучить более подробные примеры в [https://ovilab.net/neuronify/ Neuronify].) | |||
[[Файл:Neuronify CPG.png|мини|Central pattern generator, очень простой набросок в [https://ovilab.net/neuronify/ Neuronify]]] | |||
CPG крайне напоминает мне о [https://ru.wikipedia.org/wiki/%D0%9A%D0%B2%D0%B0%D1%80%D1%86%D0%B5%D0%B2%D1%8B%D0%B9_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%82%D0%BE%D1%80 кварцевом генераторе] в электронике формой выходного сигнала. | |||
У выхода обоих есть: | |||
* активное состояние | |||
* неактивное состояние | |||
* стабильный ритм | |||
В цифровой электронике промежуточные состояния - лишь аналоговый эффект, который не влияет на смысл схемы. | |||
Цифровые схемы можно моделировать через [https://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D0%BD%D0%B5%D1%87%D0%BD%D1%8B%D0%B9_%D0%B0%D0%B2%D1%82%D0%BE%D0%BC%D0%B0%D1%82 конечные автоматы]: объекты с одним входом, одним выходом и конечной группой возможных состояний. | |||
У конечных автоматов в принципе не идёт речь о непрерывности, если удалить один элемент и заменить его другим, в схеме ничего не поменяется. | |||
Если аналоговые эффекты не мешают делать это в цифровой схеме, а уровни напряжений одни и те же, это можно проделывать не только в симуляции, но и в реальности. Например, подключить выход {{Abbr url|Universal Asynchronous Receiver-Transmitter|UART|https://en.wikipedia.org/wiki/UART}} от микроконтроллера к USB-UART преобразователю, отключить провода, повторить. Текст будет появляться и останавливаться с минимумом потерь. Не говоря уже о том, что большинство из нас выдёргивали USB-провода из работающих компьютеров в спешке. | |||
Теперь возникает вопрос: о скольких нейронных цепочках можно так сказать? | |||
(Этот эксперимент не абсолютно точен в случае нейронов. Если вы нарисуете в Neuronify CPG по образцу моего рисунка, то заметите, что у нейронов меняется чувствительность, поэтому только выход CPG можно описать так, как я делаю.) | |||
== Ссылки == | |||
* exurb1a - [https://www.youtube.com/watch?v=APlw4xCl0xI Problems With Mind Uploading] (добавить отсылку к "spatial tracking identity" и "form tracking identity") | |||
* exurb1a - [https://youtu.be/8kX62n6yNXA?t=31 You (Probably) Don't Exist] / [https://youtu.be/8kX62n6yNXA Ты (наверное) не существуешь] | |||
* exurb1a - [https://www.youtube.com/watch?v=WX0xWJpr0FY There's No Such Thing As Orange] | |||
== План == | |||
* разумно ли пытаться подойти к одному определению сознания в разговоре (см. видео [[Isaac Arthur]]) | |||
* Личные и общественные последствия "прерывания" | * Личные и общественные последствия "прерывания" | ||
* Прочитать и разобрать: «[https://habr.com/ru/post/400533/ Главный парадокс сознания. Почему не имеет смысла копирование мозга или личности]», «[https://habr.com/ru/post/409157/ Человеческое сознание. Перенести нельзя скопировать?]», «[https://habr.com/ru/post/361893/ Код мозга и память. Загадка гиппокампа]» | |||
* Нужен [https://meta.wikimedia.org/wiki/Help:Footnotes#cite_note-2 плагин для сносок] | |||
[[Category:Философия]] | |||
[[Category:Загрузка сознания]] | |||
[[Category:Незавершённые статьи]] |
Текущая версия от 13:54, 28 февраля 2021
Добро пожаловать в черновик черновика.
Если вы читаете этот текст, то легко предположить, что вы бы хотели повысить качество своей жизни и увеличить её срок при помощи технологий. Человечество делает это уже очень долго: трудно поспорить с тем, что медик, удаляющий ваш больной зуб, вмешивается в естественные процессы, делая вашу жизнь проще. В случае удалённого зуба или даже замены его протезом, очень легко сказать, что вы остались собой. Гораздо меньше людей согласятся с тем, что хирургическое вмешательство в работу мозга или его травма позволит вам остаться собой.
У нас нет одного чёткого ответа на вопрос "что такое сознание?". Вместо этого, у нас есть «Трудная проблема сознания» — вопрос о том, почему мы в принципе ощущаем мир, как есть, почему наше сознание отличает зелёный цвет и ноту до на фортепьяно, радость и просроченные счета по разному. Каждое из этих ощущений входит в группу квалиа. Трудная проблема сознания - в том, что мы не понимаем, как мозг создаёт квалиа.
У нас нет свидетельств о том, что наше мышление, восприятие чувств и другие функции зависят от чего-то кроме нервной активности. Более того, существуют такие идеи, как «солипсизм» и «мозг в колбе», где всё, что нас окружает не отражает физическую реальность. Так появляется множество новых вопросов:
- «Где вообще проходит граница между сознанием и всем, что не является нами? (Телом, спинномозговыми рефлексами, реакциями, которые не контролируются сознанием вроде страха.)»
- «Останемся ли мы собой, если убрать эти автоматические реакции или заменить их на другие?»
- «Есть ли в принципе части нас, которые мы контролируем и части, которые мы не контролируем?»
- «Можно ли сказать, что личность не меняется при добавлении новых чувств?»
- «Остаёмся ли мы собой в случае добавления нейро-имплантата?»
- «Не занимает ли наше место робот с нашими воспоминаниями при загрузке сознания?»
Нам не нужно фокусироваться и разбирать данные, чтобы видеть или слышать, нам не нужно концентрироваться, чтобы засыпать, ходить, говорить или даже вспоминать большинство повседневных вещей. С другой стороны, мы не можем сказать, что человек остаётся собой без воспоминаний.
Пока у нас нет чёткой терминологии и свидетельств, ответить на эти вопросы однозначно будет очень сложно. Вместо этого здесь есть место идеям и свидетельствам, которые позволят сказать, какое вмешательство допустимо, а какое — нет.
Мысленные эксперименты[править]
Парадокс Арго[править]
Если все составные части исходного объекта были заменены, остаётся ли объект тем же объектом?
Как мы обсудили ранее, мы с лёгкостью расстанемся с больным зубом у стоматолога. Мы не говорим о человеке, которому заменили сердце, как о ком-то другом. Однако друзья Финеаса Гейджа, получившего травму мозга, говорили, что «это больше не Гейдж».
Интуитивно, замена каждой клетки воспринимается с меньшим энтузиазмом, но это гораздо менее инвазивная процедура, наше тело делает это без нашего участия.
Свидетельства[править]
Поведение определяется работой центров мозга[править]
В 1848 году, бригадир взрывников по имени Финеас Гейдж (Phineas Gage) получил тяжёлое ранение головы вследствие взрыва: лом диаметром 3.2 сантиметра прошёл в его череп насквозь. Так он лишился большей части лобной доли левого полушария головного мозга и пришёл в сознание спустя несколько минут после травмы. Он оправился от инфекции, но по словам друзей, он «не был собой».
Также есть множество публикаций о том, что поведение человека меняется вследствие транскраниальной магнитной стимуляции мозга, но когда она останавливается, поведение человека становится прежним.
Важность непрерывности[править]
Мозг состоит из отделов. Эти отделы активны, когда результат их работы нужен и выключены в остальное время. Для этого есть множество примеров.
Зрительная кора не будет показывать трясущуюся картинку, поступающую на глаз посреди посреди их регулярных перемещений (саккад). Она даже не вспомнит о чьём-то лице, когда оно находится в слепом пятне, а вы знаете, что оно там. Зато она перекрасит цвета в тех зонах зрения, где глаз видит практически чёрно-белую картинку.[1] Моторная кора не позволит сделать вам сальто в реальном мире, пока вы спите.
Трудно поспорить с тем, что мозг будет не полностью активен, когда человек спит, находится под наркозом при операции, упал в обморок. Нарушается ли в этом контексте непрерывность сознания? Просыпается ли тот же человек, который уснул? Что насчёт пациента при операции?
Постепенная замена или ремонт клеток наномашинами[править]
Будет нечестно рассмотреть тему непрерывности сознания только с одной стороны. Я часто слышу доводы против загрузки сознания, которые сводятся к одному предложению вроде «это будет просто копия», но одна из технологий однозначно помешает так рассуждать. А именно, наномашины.
Мы состоим из клеток, которые выполняют самые разные функции. Если нашей цивилизации повезёт создать наномашины, ремонт клеток и полная замена каждой отдельной клетки на наномашину, лучше справляющуюся с задачей оригинальной клетки будет инженерной, а не исследовательской задачей. Загрузка сознания из совместимых с этим наномашин тоже не звучит, как нечто невозможное и неправильное.
Когда мы говорим о себе, мы редко упоминаем, что с нашего детства все клетки организма обновились очень часто. Таким образом, в данном конкретном случае будет очень сложно определить момент, когда кто-то превратился из оригинала в копию. Моё личное мнение в том, что этого момента нет, обновление клеток мозга тоже происходит, хоть и крайне редко в сравнении с остальными.
Этот вариант звучит наиболее оптимистично и близко к «они жили долго и счастливо», поэтому я слышу о нём реже всего.
Заморозка мозга[править]
При заморозке мозга нейромедиаторы не смогут пройти между синапсами. Я допускаю, что его активность останавливается целиком.
Процесс «создания квалиа из ощущений» прерывался. Ощущения до заморозки резко отличаются от ощущений после. Можно ли сказать, что просыпается новое сознание?
Лёд - отличный изолятор для постоянного тока. Для переменного тока он остаётся хорошим изолятором до 1 кГц, а после уже не настолько хорош. [2] [3]
Требуется информация от эксперта! |
---|
Запрос: Нужны данные о том, могут ли функционировать при температуре ниже нуля электрические синапсы.
Хорошим примером будет статья, где рассматривается культура нейронов, подключённая к АЦП, который ведёт запись любых электрических сигналов при температуре ниже нуля. |
Экспертиза: Нейробиолог |
Требуется информация от эксперта! |
---|
Запрос: Поскольку мозг пациента Alcor хранится при температурах, достигающих -196°C, будет полезной информация о том, могут ли срабатывать при этой температуре нейроны, соединённые электрическими синапсами и насколько долго. |
Экспертиза: нейробиолог |
Мысленный эксперимент: нейронные цепочки и конечные автоматы[править]
Я хочу задать вопрос: всегда ли верно говорить о цепочках нейронов, как о чём-то, что имеет непрерывную активность?
Давайте проведём мысленный эксперимент.
В биологии часто встречается цепочка нейронов, которая производит импульсы сама, без входа.
Давайте рассмотрим простой пример.
У нас есть два нейрона, А и Б.
Дендрит нейрона А подключён к аксону нейрона Б. Дендрит нейрона Б подключён к аксону нейрона А.
Аксон нейрона А также соединён с другими нейронами, т.е. выдаёт «выходной сигнал».
Подобная цепочка называется «CPG». Мой набросок позволяет мне донести идею, хотя и далеко не идеален. (Я рекомендую изучить более подробные примеры в Neuronify.)
CPG крайне напоминает мне о кварцевом генераторе в электронике формой выходного сигнала.
У выхода обоих есть:
- активное состояние
- неактивное состояние
- стабильный ритм
В цифровой электронике промежуточные состояния - лишь аналоговый эффект, который не влияет на смысл схемы. Цифровые схемы можно моделировать через конечные автоматы: объекты с одним входом, одним выходом и конечной группой возможных состояний. У конечных автоматов в принципе не идёт речь о непрерывности, если удалить один элемент и заменить его другим, в схеме ничего не поменяется.
Если аналоговые эффекты не мешают делать это в цифровой схеме, а уровни напряжений одни и те же, это можно проделывать не только в симуляции, но и в реальности. Например, подключить выход UART от микроконтроллера к USB-UART преобразователю, отключить провода, повторить. Текст будет появляться и останавливаться с минимумом потерь. Не говоря уже о том, что большинство из нас выдёргивали USB-провода из работающих компьютеров в спешке.
Теперь возникает вопрос: о скольких нейронных цепочках можно так сказать?
(Этот эксперимент не абсолютно точен в случае нейронов. Если вы нарисуете в Neuronify CPG по образцу моего рисунка, то заметите, что у нейронов меняется чувствительность, поэтому только выход CPG можно описать так, как я делаю.)
Ссылки[править]
- exurb1a - Problems With Mind Uploading (добавить отсылку к "spatial tracking identity" и "form tracking identity")
- exurb1a - You (Probably) Don't Exist / Ты (наверное) не существуешь
- exurb1a - There's No Such Thing As Orange
План[править]
- разумно ли пытаться подойти к одному определению сознания в разговоре (см. видео Isaac Arthur)
- Личные и общественные последствия "прерывания"
- Прочитать и разобрать: «Главный парадокс сознания. Почему не имеет смысла копирование мозга или личности», «Человеческое сознание. Перенести нельзя скопировать?», «Код мозга и память. Загадка гиппокампа»
- Нужен плагин для сносок
- ↑ заметки Foone о зрительной коре
- ↑ Electrical Properties of Ice, Victor F. Petrenko, Aug 1993.
- ↑ Quora, вопрос о сопротивлении льда