Може ли един човек да унищожат света

апокалипсис оръжия сега - привилегията световни сили. Но това може да се промени. В продължение на няколко десетилетия, малки групи или дори физически лица ще могат да се докопат до убиец технологии в всяко количество. Като че ли това може да звучи страховито, светът може да бъде унищожена от малка група или лице, действащо самостоятелно. И ето как.

Както ван Nedervelde и Барат, и двете са загрижени, че ние не използваме тази възможност много сериозно.

"По-голямата част от хората днес е в блажено неведение за това, което всъщност са в реална опасност," - казва ван Nedervelde. - "Въпреки че е важно да стоят настрана от надутите слухове и прекомерно алармаджийство, голите факти показват, че ние сме ясно и директно са в смъртна опасност. Какво може да бъде по-лошо, ако дойде време перфектната буря, която ще се появи на базата на нарастващия риск на човешкото съществуване? ".

Ако искаме да оцелеем през следващите няколко хиляди години, казват те, ние трябва през следващите няколко десетилетия, за да се осигури максимална безопасност, които просто не могат да си позволят.

Изберете оръжията си

Като един вид живее в един безразличен вселена, ние сме изправени пред двете космически и причинени от човека рискове, тоест могат да бъдат убити от ръката му. Както, наистина, той трябва да бъде нашият тип цивилизация живее на буре с барут, под формата на ядрени оръжия.

Според ван Nedervelde, най-сериозните рискове включват изкуствено пандемия биотерористична акт, световната обмен на термоядрени бомби, появата на враждебен изкуствен свръхразум и призракът на оръжия за масово унищожение на базата на нанотехнологиите.

"Заплахата от биологична атака или рак на човека пандемия може да се появи в относително кратък срок," - казва той.

В действителност, едва наскоро, а именно през 20 век, е прецедент ни показва колко сериозно може да бъде "просто" естествен пандемия: през 1918 г. испанският грип убити между 50 и 100 милиона души. По това време тя е 2.5-5 на сто от населението на света.

"Човечеството е разработила технологията, необходима за разработване на ефективни и ефикасни патогени," - каза източник Nedervelde микробус. - "Ние имаме ноу-хау, необходими за оптимизиране и подобряване на потенциалните вредни патогени. Такива оръжия може успешно да унищожат почти цялото човечество. "

По отношение на очакваните бъдещи форми на оръжие на базата на нанотехнологиите, наномедицината теоретик Робърт Freitas носи разликата между "сив прах", "сив планктон", "сиви лишеи" и така наречените убийци на биомаса. Този вариант на сивата слуз заплаха - адска сценарий, в който самовъзпроизвеждащи молекулярни роботи напълно консумират ресурси на Земята, критични за оцеляването на човека, като в атмосферата.

Сив прах може напълно блокира слънчева светлина. Грей планктон може да се отглежда на морското дъно с цел да погълне богати на въглерод среда. Сивите лишеи могат да унищожат наземна геология и убиец на биомаса може да атакува различни организми.

И накрая, както отбелязва Барат, има заплаха от изкуствен свръхразум. В продължение на няколко десетилетия, изкуственият интелект може да надмине човешките няколко порядъка. И след появата той може да се бори за оцеляване, както и да правим, или да бъде лошо програмиран. Ние ще трябва да се конкурира с един съперник, който надхвърля възможностите ни да мащабирате, че едва ли можем да си представим.

Унищожаването повече с по-малко

Късометражен филм по темата за превъзходството на изкуствен интелект, обезпечени работа в Холивуд, за да му създател.

Очевидно е, че много от тези технологии, ако не всички, ще се развива като се вземат предвид огромните инвестиции и средствата на държавни агенции и големи корпорации. Но това не означава, че тези неща няма да се чертежи да попаднат в ръцете на неблагоприятно мислещи групи, или че те самите не могат да мислят по този начин.

"Някъде в сърцето ми все още държи портретите на пет интелигентни момчета от Сомалия и други развиващи се страни, които виждат възможност да променят света. За включване на света с главата надолу. Военни приложения на молекулно производство имат по-голям потенциал от ядрени оръжия, и могат да променят коренно съотношението на силите. "

И както се твърди от Съвета по националната сигурност на САЩ ", ние сме изложени на риск не само за флоти и армии, както и преди катастрофални технологии в ръцете на озлобен малцинство."

В този контекст, Ван Nedervelde говори за "асиметричен разрушителна сила» (Асиметрична Разрушителните Capability, ADC).

"Това означава, че с развитието на технологиите, необходими по-малко и по-малко да се унищожи повече и повече", - каза той. - "Мащабът на унищожение е все по-вероятно, при условие че е неизмеримо малки ресурси. Тази асиметрия нараства експоненциално, благодарение на NBIC ».

NBIC, както е обяснено по ван Nedervelde е сходни ефекти на четири основни технологични сектори, а именно нанотехнологиите (манипулиране на материята на молекулярно ниво, включително появата на радикално нови материали, фармацевтични продукти и роботика), биотехнологиите, информационните технологии и когнитивната наука.

Според експерти в развитието на нано-роботи, на ресурсите, необходими за развитие и приложение nanoweapons за масово унищожение, могат да бъдат пуснати на пазара още 2040 г., плюс или минус 10 години.

"За да постигнем това, определена малка група търси масово унищожение ще бъдат необходими след относително скромните ресурси: nanoproizvodstvennoe оборудване работно състояние да генерира семена" replibots "; четири посредствен нано-инженер с докторска степен; четири работа суперкомпютър; четири, а може би и по-малко месеца, за да се развиват; четири разпръскването точка, като се има предвид световната вятъра. "

Наука го описва като «ADC на стероиди":

"В сравнение с настоящата технология, бъдещето на нанотехнологични оръжия за масово унищожение ядрената млъкни за колана като малък детайл."

Единична масово унищожение

Ван Nedervelde също предупреди за SIMAD, «масово разрушителна самотен» (Single Индивидуална масово Разрушителните).

"Ако смятате, че ADC е логичен край на нашите заключения, ние имаме по-малко страхове за малки терористични организации като Ал Кайда и подобни, отколкото за умни хора, които притежават дълбоко вкоренена насилствено престъпление на човешкото общество и човешкия вид," - казва той каза той.

Чудесен пример - Unabomber. Сега си представете, като "Unabomber" въоръжен "наука на стероиди" NBIC-съвременни технологии. Такъв човек ще има потенциала да сеят смърт и разрушения в огромен мащаб: в града, региона, континента и може би цялата планета.

«SIMAD - един от рисковете, които ме вълнува най-много", - казва ван Nedervelde. - "Аз не мога да спя, защото от това."

Барат каза ресурс, дали човек може сам да създаде масово разрушителна изкуствения интелект.

"Аз не мисля, че един човек може действително да създаде AI достатъчно силен, за да бъдат катастрофални", - каза той. - "Проблеми с хардуера и софтуера в създаването на общ изкуствен интелект (на АГИ, ОУИ), както и на и-работещ изкуствен свръхразум (ASI, ICI), мащаба и сложността на подхода към Проекта Манхатън за изграждането на атомната бомба (която е осъществена в общия $ 26.00 милиарда), отколкото до прозренията на "самотен гений" като Тесла, Едисон и Айнщайн. "

Барат също се съмнява, че един малък екип ще бъде в състояние да го приложат.

"Състезателите в тази надпревара дълбоки джобове - IBM, Google, Blue Brain Project, DARPA, Агенцията за национална сигурност. Съмнявам се, че една малка група може да направи ОУИ, и със сигурност не в редиците на първия. "

Причината, казва Барат, е, че всички конкуренти - големи, малки, невидими и уплашена - захранвани от знанието, че средствата за масова ОУИ - или на човешкия разум на цената на един компютър - ще бъде най-печеливши и революционна технология в историята на света. Представете си хиляди банки "мозъците" на нивото на р, които решават проблема с рак, симулиране на климата и разработване на оръжия.

"В случай на общия размер на финансирането AIS, за да получите правилния отговор за екзистенциална заплаха", - казва Барат.

каза Барат, че в това състезание, особено за инвеститори, които са най-атрактивната скалата на постиженията, които ще бъдат отворени, а основният интерес към тази подхранване корпоративни гиганти.

За съжаление, това не изключва възможността, че в крайна сметка гибелен терористична група ще бъде в състояние да си ръце на някои от най-сложен код, добавете необходимите настройки и след това да отприщи своя собствена цифрова инфраструктура в света. Нека тя няма да бъде апокалиптична в мащаб, но тя все още може да бъде потенциално опустошителни.

Налице е също така възможността лукав екип или индивидуално с помощта на елементарни изкуствен интелект ще бъде в състояние да се развива мощна машина интелигентност. С помощта на изкуствен интелект, която ще направи лъвския дял от работата, това е напълно възможно. Или може би има и други канали, а ние не знаем. Много е вероятно, че един малък екип ще може да развърже ръцете на AIS, но за дълго, дълго време.

самозащита

За да не бъде тъжен, ние също трябва да се говори за превантивни мерки. Един от начините, по които можем да се предпазят от тези заплахи, е превръщането на цялото общество в една тоталитарна полицейска държава. Но едва ли някой иска. Затова io9 обърна към ван Nedervelde и Барат, за да разберете какво друго можеш да направиш.

"Добрата новина е, че ние не сме напълно беззащитни срещу тези заплахи", - казва ван Nedervelde. - "Предпазни мерки, профилактика, ранно предупреждение и ефективни отбранителни контрамерки са доста възможни. Повечето от тях дори не са "драконовски", но може да осигури постоянна бдителност. "

Изследователят прогнозира психологическо наблюдение на хора, които демонстрират трайни и значителни девиантно поведение в образователни и други институции.

"Това е нещо като психологическа имунна система на нивото на цялото човечество: постоянен мониторинг на SIMAD-Unabomber да им помогне да се открие, когато те все още са млади, много преди те да започнат да се почисти ужасните си планове. За да се сложи край на това, че е необходимо да се подобри значително наблюдението на поведението на хората и здравето на хората като цяло. "

Той също така смята, че световното правителство може да се подобри по такъв начин, че "организации като ООН и други международни организации ефективно да реагират по подходящ начин, когато екзистенциална заплаха издига своята грозна глава."

Също така, изследователят смята, че можем да предвидим или ADC SIMAD атака, за да им се противопоставим, когато те възникнат. За да се предпазят от боевете на нанотехнологиите, бихме могли да разгърне аварийно тип защита на изкуствена мъгла, слънчеви отражатели, сигнални ракети и EMP-лъчението.

По отношение на защитата имаме срещу скритата AI, Барат каза, че малките организации са по-нестабилни и се нуждаят от надзор над големите.

"Но след това отново, сега е НСА с 50 млрд черен бюджет е Америка, където по-голяма заплаха от Ал Кайда и всички други, които желаят да придобият AIS. Ние инстинктивно знаят, че те ще бъдат не по-малко размирната с ОУИ, ако стигнем до него на първо място. "

Барат предлага две възможности, които могат да покрият пропуските за сигурност:

"Създаване на глобално публично-частно партньорство може да се ограничи стадото с амбицията за създаване на ОУИ, нещо като Международната агенция за атомна енергия (МААЕ). Докато организацията ще създаде, ще трябва да сформират консорциум с дълбоки джобове, които ще наемат водещи изследователи в света в обхвата на общата изкуствения интелект. За да ги убеди за опасностите от неограничен развитие на АИС и да им помогне да отида на път с изключителна предпазливост. Или компенсира отказа им да мечтаят за създаването на ОУИ ".

тотално наблюдение

А по-радикален Ван Nedervelde предложи идеята на "четири E»: Всеки има очи и уши Навсякъде ( «всеки има очи и уши навсякъде"), което може да стане реалност с друга акроним: паноптична Смарт Dust Sousveillance (информационен лист, «прозрачен мониторинг умен прах" ).

"Днес" умен прах "се отнася за малки MEMS-устройства, наречени" прашинки ", измерена един кубичен милиметър или по-малко и с възможности за самостоятелно наблюдение, компютри и комуникации в безжична специализирана мрежа на окото", - обясни той. - "В не много далечно бъдеще интелигентен прах може да бъде буквално прах измерване 50 кубически микрона или по-малко, може да плува във въздуха като обикновен прах, и да се създаде мобилна интелигентен облак със слънчева енергия."

Изследователят е в долната част на атмосферата на Земята се появяват интелигентни прахови частици със средна плътност от три прахови частици на кубичен метър въздух. Използван ефективно, този прах може да даде на всеки гражданин очите и ушите си, осигуряване на "обратната отчетност" в цивилизованото общество.

"Ако приемем, че повечето от тези наблюдения не са хора и машини, изострени от някои модели, това определено ще бъде краят на това, което аз наричам" абсолютна конфиденциалност "- но остава още много място за" относително уединение ". И това е точно сложи край на всички SIMAD, терористични атаки, в края на насилие и други форми на насилие срещу деца, жени, възрастни хора навсякъде и навсякъде. "

Най-вероятно тя ще достави и застой повечето форми на корупция и други престъпления. Това ще бъде възможно да се създаде крайния вид на това, което Дейвид Брин описва като "прозрачен общество" или етично футурист Dzhamais Каско - "обществена vsevideniem".

"Ние най-накрая намери отговор на въпроса на Ювенал по време на римската античност :?« Quis custodiet Ipsos custodes », които търсят пазачи" - казва ван Nedervelde. - "И отговорът е: самите ние, хората, гражданите - това е целесъобразно, по мое мнение."

Може ли един човек да унищожи света? Иля Кел