Искусственный интеллект настолько опасен, что стоит держать его взаперти, от греха подальше, считают эксперты. Во всяком случае ему не стоит предоставлять свободу суперкомпьютера HAL 9000 из «Космической Одиссеи 2001»

Суперумные компьютеры или роботы, угрожающие существованию человеческого рода – излюбленный сюжет научной фантастики. В реальности, по мнению учёных,  подобный сценарий судного дня можно предотвратить только создав виртуальную «тюрьму» для содержания искусственного интеллекта (ИИ). И сделать это надо до того, как он научится осознавать и совершенствовать самого себя.

Если выпустить этого джина из бутылки, то из оракула, который решает наши проблемы, он может превратиться в апокалипсическую угрозу, – уверен Роман Ямпольский,  учёный из Луисвиллского университета (шт. Кентукки), работающий в области компьютерных наук. Необходимо тщательно спланировать условия, в которых будет содержаться ИИ – так, чтобы он не смог вырваться на свободу при помощи угроз, подкупа, соблазна или компьютерного взлома.

«Он может изобрести множество способов воздействия, провернуть сложную социо-инженерную комбинацию и использовать уже существующие аппаратные компоненты в целях, которые мы не можем даже вообразить, – полагает Ямпольский. – Такой софт обладает неограниченными возможностями для заражения компьютеров и сетей. ИИ может найти способы воздействовать на человеческую психику, подкупать или шантажировать людей, которые находятся с ним в контакте».

Появление новой сферы научных исследований, занимающейся проблемой создания «тюрьмы» для искусственного интеллекта, имеет и дополнительные преимущества. Эти исследования очень полезны  для улучшения компьютерной безопасности и криптографии, уверен Ямпольский. Его предложения были детально изложены в мартовском номере академического издания Journal of Consciousness Studies.

Робот-убийца из фильма "Терминатор" как раз является таким будущим, которого мы хотели бы избежать

Как устроить западню для Скайнет

Для начала можно заключить искусственный интеллект внутри «виртуальной машины». Пусть он работает в пределах обычной операционной системы  –  ограничение доступа ИИ к софту и оборудованию главного компьютера сделает его значительно безобидней. Во всяком случае, умный ИИ не сможет рассылать своим сторонникам-людям тайные сообщения,  отбивая охлаждающими вентиляторами азбуку Морзе.

Посадить искусственный интеллект в компьютер без выхода в интернет – хороший способ помешать коварным планам ИИ по защите Земли от нас с вами. В случае любого другого сбоя исследователи всегда могут притормозить мыслительный процесс ИИ, сбавив скорость обработки данных компьютера, регулярно нажимая кнопку «сброс» или отключив ИИ от источника энергоснабжения.

Такие меры безопасности предназначены для борьбы с особо умными и опасными компьютерными вирусами, но насколько эффективными они окажутся на самом деле – приходится только гадать.

«Уловка-22» (роман амер. писателя Дж. Хеллера; прим. mixednews) заключается в том, что мы не можем провести полномасштабные испытания наших идей, пока разработка ИИ не закончена. Но  для того, чтобы сделать ИИ безопасным, необходимо разработать комплекс соответствующих мер, – считает Ямпольский. – Оптимальный вариант – ввести ограничения на использование систем ИИ а затем, по мере необходимости, менять эти ограничения в соответствии с повышающимися возможностями ИИ».

Учёный Роман Ямпольский предложил использовать знак "@" или другие знаки, использующиеся сегодня для обозначения радиационной или биологической угрозы для указания на наличие опасности, связанной с искусственным интеллектом.

Никогда не приставляйте к машине охранника-человека

Во время невинной, на первый взгляд, беседы с охранником ничто не помешает ИИ использовать такие психологические приёмы, как дружба или шантаж. Человека можно подкупить, посулив ему идеальное здоровье, бессмертие, или даже пообещать вернуть с того света родных и друзей. Или добиться чего угодно угрозами.

Самый безопасный способ общения с ИИ – заставить его, при решении специфической научной или технической задачи, выбирать ответ из множества имеющихся вариантов, – объясняет Ямпольский. Это поможет держать супер-умного оракула на коротком поводке.

Многие исследователи считают, что, несмотря на все меры предосторожности, держать умника ИИ под замком бесконечно не удастся. Последний эксперимент Элиэзера Юдковского, научного сотрудника Института сингулярности по созданию Искусственного Интеллекта, показал, что даже интеллект человеческого уровня  может обмануть человека и «сбежать» из заточения.

Тем не менее, Ямпольский настаивает на содержании ИИ в строгой изоляции – это всё же лучше, чем махнуть рукой и предоставить ему полную свободу. Но если развитие ИИ достигнет точки, когда он сможет манипулировать человеком, используя подсознание (предсказание будущего), телепатию или телекинез – последствия будут непредсказуемы.

«Если такой ИИ будет самосовершенствоваться и достигнет уровня значительно превышающего возможности человеческого интеллекта, последствия невозможно даже представить» – предостерегает Ямпольский.

Два коммента:

Скептик (тот, который оригинальный) говорит:

saber говорит:

В наступившем году будут подведены первые итоги по крупнейшему международному проекту «1000 геномов», стартовавшему в 2008 году.

Генетики поставили перед собой амбициозную задачу – обнаружить и описать подавляющее большинство генетических вариаций(95%), встречающихся у людей (с частотой свыше 1%), которые, по мнению медиков, являются первопричиной большинства заболеваний.

- Еще на первой, пилотной фазе проекта, завершившийся в 2010 году, мы идентифицировали около 15 миллионов однонуклеотидных замен, один миллион выпадений или вставок участков ДНК и 20 тысяч более значительных участков генома. С тех пор мы имеем значительные продвижения в этом направлении во многом благодаря тому, что над проектом работают ученые из разных стран – США, Германии, Дании, Великобритании, Южной Кореи, Китая, Франции. В 2012 году работы будут завершены и человечество получит огромный каталог генетических данных, который будет находится в открытом доступе, таким образом любой желающий сможет им воспользоваться, -не скрывает своей радости председатель проекта Ричард Дурбин из Института Сангера в Великобритании.

Это позволит создать принципиально новые лекарства и существенно увеличить продолжительность и качество жизни всех без исключения людей.

art ma-zaika

Трактат о пупе - ЗАПУПЕЛА

"Понятие пупа и проблема опупения в культурном аспекте мировой истории"

План работы:

1. Понятие пупа

2. роль пупа в жизни человека

3. пуп в народных пословицах и оборотах

4. пуп как культурное явление

5. проблема пирсинга

6. пуп в современном сленге

7. опупение – понятие нормы?

Понятие пупа

Согласно словарю Даля

1 ПУП м. пупок, пупочек, отверстие среди живота, через которое, посредством пуповины, нерожденный младенец или детеныш связан с последом и получает питание свое; впадинка с заворотом, остающаяся на этом месте, по рождении плода и обрезке пуповины.

2 Пупок, в рухляди, брюшко.

3 Пупок - птичий, желудок

4 Пупок, пупочек, пупыш, пупышек, пуколка, распуколка - цветочная головка, зародыш, почка на растениях,

Из биологического определения можно сделать вывод о несомненной физической функции Пупа как органа. Пищеварение птицы просто невозможно без его участия. Если лишить птицу пупа или пупка, то она погибнет или же станет неполноценным существом со множеством функциональных пищеварительных нарушений. Сразу же хочется продолжить линию: что если лишить пупа человека? Неужели его тоже ожидает гибель? Для этого надо понять значение пупа в физиологической и духовной жизни вида Homosipiens

роль пупа в жизни человека

2 Вновь обратимся к определению пупа: Впадина (у младенцев — выпуклость) на середине живота, оставшаяся после отпадения пуповины.

Что есть пуповина? Единственное связующее звено еще только формирующегося организма с внешним миром. Посредством пуповины зародыш получает пищу, витамины из мира внечревного - несомненная биологическая задача. В то же время пуповина выполняет функцию соединительную: контакт между двумя людьми приводит к общению, обмену информации. Стало быть пуповина способствует психологическому контакту младенца с матерью.

Что же происходит, когда новый человек рождается на свет? Пуповина, ранее стремящаяся во внешний мир (инерционально продолжающая стремиться вовне еще некоторый срок младенчества), впадает. Это, как гласит словарь, впадина. Т.е. явственно прослеживается духовная итнонаравленность пупка. Не к земным благам, а к духовным, внутрь.

Подобный вывод находит подтверждение в народном фольклоре, простонародных выражениях.

пуп в народных пословицах и оборотах

3 "Рвать на себе пуп" – стараться изо всех сил, надрываться. Выражению имеет явную неодобрительную окраску. Рвать – рушить, разрушать. Разрушение чего-то сокровенного, даже сакрального.

"Созерцать собственный пуп" означает как поглощенность человека исключительно собой, так и выставление напоказ неположенного.

"Пуп земли" – первоначально Середина чего-либо, средоточие. Позднее применяется по отношению к человеку, возомнившим себя центром вселенной. Схожий смысл имеет выражение "созерцать собственный пуп"

Явный негативный оттенок чувствуется в сочетании "пупом торчит" - выпуклое, не на месте.

"Глуп, как пуп» - в комментариях не нуждается.

В сленге можно встретить оборот "пуп царапать", в контексте "это вам не пуп царапать", т.е. "не баклуши бить" или подобное занятие, завязанное на самосозерцании и самодействии.

пуп как культурное явление

4. Пуп не мыслим без своего окружения – без живота, без чрева. Явление Пупа напрямую связано с материнством и женственностью. Пышные женские формы, присущие эпохе Возрождения, фигуры Евы и Афродиты как матерей, символов красоты и рождения с ярко выраженным женским чревом. Пуп приобретает истинное значение: средоточие новой жизни. Сосредоточие жизни в другом человеке. Выпирание живота, а стало быть пупа, означает рождение - и ничего больше. Стремление младенца к контакту с миром, контакт с ним посредством пуповины, затем - атрофирование ее функции.

Псевдоматеринство и псевдо женственность.

Современному времени присущи новые эталоны женской красоты: стройные формы и «плоские» животы. Облик женщины-матери потерял свое значение, с ним потеряла исконный смысл и роль женщины. Пуп же сегодня не символ материнства и нового начала, но символ плотского удовольствия.

Потеря пупом первородной функции приводит к украшательству. Абсолютно ненужный орган – объект для насилия. Женщина привлекает сегодня не Пупком как таковым, а блестящей нашлепкой.

Можно возразить, что украшательство было придумано не в двадцатом веке, что древние женщины были покрыты татуировками и проколами во множестве мест, и даже самая ярая поклонница модной тенденции вряд ли может соперничать с ними . Но тогда эти украшения носили магический, обережный, религиозный характер. Сегодня же символика утеряна. Утерян истинный смысл. На повестку дня встает проблема замены природного естества искусственной атрибутикой, можно сказать проще, проблема пирсинга.

пуп в современном сленге

6. Мы уже поняли, что значение Пупка и Пуповины утратило свой изначальный смысл. Но можно привести в подкрепление вывода и другие доказательства. Вернемся к фонетическим перипетиям.

В современном сленге появился новый глагол: "опупеть". Значение его таково: Опупеть, офигеть, обалдеть – очень удивиться. Опупевает человек вследствие встречи с чем-то неожиданным. "Я опупел, когда увидел ее новую прическу" . Выражается опупение обыкновенно широко открытыми глазами, ртом, возможно застыванием на месте и другими признаками чрезмерного удивления.

Если придерживаться классической трактовки (опупение как выставление себя напоказ) "опупеть" - стать пупом, уже даже не пупом земли, а просто пупом; лишиться всех качеств, но мнить себя чуть ли не богом, украшенным пирсингом. Опупеть можно и чисто физиологически: в результате переедания. Съесть столько, что пуп выдастся вперед. Человек опупевает из-за обильного ужина, например; "пупом вспучило" в народных выражениях.

Если сложить несколько этих понятий вместе, то можно наблюдать интересную, но трагическую картину:

Человечество утратило иконные знания и традиционную символику. Пуп потерял свое значение. Уже не несущий информации Пупок был превращен в поле для такого же безинформационного украшательства. Переизбыток не несущей смысловой нагрузки информации, как и любой переизбыток, привел к Опупению синонимичному Отупению (фонетическое созвучие неслучайно). Такое состояние поражает чрезмерное удивление по поводу каких-либо явлений бытия (опупение как удивление) и излишнюю веру с себя, в виду отсутствия достойного примера (самоопупизация самоидеализация ).

Сегодня умы передовых людей волнует одним вопрос: Опупение стало нормой?

Если так, то логически возникают еще новые проблемы: Недоопупения и Переопупения (Глуп, по самый пуп, а что выше, то пуще) как отклонений от нормы. И если обычно гениальные люди считались сверхлюдьми, то теперь им предстоит стать недолюдьми: недоопупевшими и сумевшими сохранить культурный и духовный опыт человечества. И если раньше Пуп обозначал нечто выдающееся и божественное (что подтверждает античный опыт истории, где анфал верховного божества Зевса как и сакральный центр Греции Афины именовался пупом земли), то сегодня он символ моды и животных инстинктов.

Подобная деградация вызывает беспокойства мыслящей части человечества. Ведутся активные работы по учреждению института Пупологии, предназначенного для выяснения первопричин нормированной Опупизации населения и дальнейшего искоренения зловредных симптомов. В виду этого призываю всех собравшихся недоооупеть физически и надопупеть духовно.

автор: Ева Адамс