Массовое сознание уже настолько привыкло к клише о восставшем против творца Големе, что для него угроза со стороны искусственного интеллекта (ИИ) стала чем-то на уровне фильмов про зомбей. Стоит что-то сказать об этом, и большинство людей просто отмахивается -- мол научно-фантастические сказки о скайнетах и прочих HAL9000 это просто страшилки.



Однако на деле вопрос-то более чем серьезный. Например сегодня в новостной ленте BBC я увидел такую новость: Хокинг: искусственный интеллект - угроза человечеству. Сам я на эту тему еще в прошлом году читал книгу "Our Final Invention: Artificial Intelligence and the End of the Human Era" за авторством Джеймса Баррата. Книга весьма интересная и стоящая (на амазоне она стоит жалких 13 долларов), меня например она настолько впечатлила что после прочтения хотелось схватить винтовку и побежать изображать из себя Джона Коннора. Весьма рекомендую её всем владеющим английским.

Очень кратко перечислю основные тезисы из книги:
Читать дальше )
Не так давно я написал пост о прогрессе биотеха и синтетической геномике: О дивный новый мир. В котором, среди прочего, написал:

Геномы всех микроорганизмов находятся в открытом доступе в интернете. Нужен вам полный ДНК код сибирской язвы? Не вопрос. А может вам нужен туберкулез? Да нет проблем, вот c десяток вариаций оного, включая и полностью устойчивые к антибиотикам. Бери да синтезируй.
...
В общем такие вот пироги. Нынешний террор типа атак 11 сентября по сравнению с этим возможным будущим будет смотрется невинной игрой в крысу.


И в сегодняшних новостях уже первый звоночек на тему: New botox super-toxin has its details censored. Вкратце -- обнаружен новый тип ботулинического токсина, являющийся чуть ли не самым мощным ядом из известных. Иньекция двух миллиардных грамма или вдыхание тринадцати миллиардных грама является летальной дозой для взрослого человека. Механизм действия -- блокировка секреции нейромедиатора ацетилхолина, т.е. смерть от паралича. И ученые решили не выкладывать ДНК код бактерии, которая выделяет этот токсин в публичные базы данных -- первый подобный случай в истории науки.

То ли еще будет. Я после пары дискуссий на тему начал понимать, что если технический прогресс продолжится и в будущем, то для того чтобы уберечься от самоуничтожения человеческому обществу придется стать совсем другим, совершенно несовместимым с современной западной идеей либерализма. Причем я даже не только и не столько о слежке всех за всеми, аля "1984" Оруэлла на стероидах, например с подсоединенными к интернету вживленными имплантатами, которые будут постоянно контролировать где находится и что делает человек. Хотя это все также наверняка будет. Во вселенной "1984" есть другая гениальная вещь, которая почему-то многими игнорируется -- это мир огромного расслоения, не материального, а технологического, по знаниям и умениям. Это будет основным компонентом рецепта контроля -- технологии и знания будут доступны только малому числу избранных, и распределение станет по сути не территориальным как сейчас (в Штатах/Европе -- много, в Африке -- мало), а сословным.

Условно говоря, будет очень немногочисленная каста "гуглей", и все другие для которых ток берется из розетки божьей силой. Это делает ненужной тотальную слежку, строгий контроль понадобится над этой кастой избранных, и над образованием. Картинки из боевиков, где полуграмотный герой подбирает книжку, читает, что "2х2=4" и теорему Пифагора, а через пару месяцев у него самописаный искусственный интеллект рассчитывает пентогенный гиперглюкатор, это лишь картинки. Самоучек, способных самостоятельно освоить новую область очень и очень мало, а если максимально затруднить доступ к знаниям, и иметь систему контроля которая будет отлавливать чересчур любопытных индивидов -- проблем с ними не будет. Стало быть вероятность мегатерактов становится минимальной, и не потребуется дополнительных усилий и мощной структуры для поддержки (как в "1984"). Система будет весьма термодинамически устойчивой, так сказать. Такая вот невеселая мысля. Своего рода новые "темные века", на несравнимом более высоком технологическом уровне.
Давно уже хотел написать пост о синтетической геномике, а также о большом пизд потенциальных опасностях ожидающих человечество из-за прогресса в этой области.

Дла начала краткий ликбез о ДНК. Те кто помнят школьную программу могут пропустить это параграф. Итак, наследственная информация человека закодирована в цепочках ДНК (дезоксирибонуклеиновой кислоты), которые упакованы в хромосомы. Базовый информационный кирпичик ДНК это нуклеотид, их в ДНК четыре вида (т.е. один нуклеотид ДНК можно смоделировать как сочетание двух битов). Определенная последовательность этих кирпичиков является набором информации, необходимой для построения организма и поддержания его жизнедеятельности. В двойной цепи ДНК один такой кирпичик информации называют "базовая пара". В человеческом геноме содержится примерно три миллиарда базовых пар, и где-то двадцать тысяч генов. Подробнее о ДНК можно почитать тут, например.

Взглянем на этот график. Фиолетовая прямая это закон Мура. Зеленая кривая это изменение стоимости полного секвенирования одного человеческого генома, т.е. определения точной последовательности базовых пар во всей ДНК отдельно взятого человека.



Видите как сильно упала стоимость секвенирования всего за полторы декады, и насколько она опережает рост производительности компьютеров в последние лет восемь? Вот немного цифр, дабы было лучше понятно. Секвенирование первого человеческого генома заняло 15 лет и стоило три миллиарда долларов. Уже в этом году в свободной продаже появится автомат HiSeqX10, способный менее чем за день секвенировать один человеческий геном где-то за тысячу долларов.

Читать дальше )

Profile

vakhnenko

December 2016

S M T W T F S
     123
456 7 89 10
11121314151617
18192021222324
252627 28293031

Syndicate

RSS Atom

Style Credit

Expand Cut Tags

No cut tags
Page generated Jul. 25th, 2017 02:36 pm
Powered by Dreamwidth Studios