3 Страшные технологии, которые мы не должны делать

Джанлука Риччио

компания

Улыбка! Есть не только технологии, которые могут оказать негативное влияние. Есть даже страшные, у которых возможен летальный рецидив.

Среди (почти) всех пугающих технологий будущего, которые могут негативно повлиять на мир, есть только несколько абсолютно ужасающих, которые мы никогда не хотели бы видеть реализованными. Вот некоторые (в произвольном порядке):

Военные нанотехнологии
Пугающие технологии - военные нанотехнологии

Niente potrebbe causare la fine dell’umanità più rapidamente che una nanotecnologia molecolare trasformata in arma. È una minaccia che può contare su due fattori devastanti: la crescita esponenziale e la replicazione incontrollata. Un governo cinico, un soggetto non governativo o perfino un gruppo terroristico può realizzare macchine microscopiche in grado di replicarsi consumando rapidamente le risorse del pianeta. Aggeggi minuscoli che con la ferocia di un incendio trasformino la terra in una melma grigia.

Robert Freitas, esperto e teorico di nanotecnologia, ha speculato su diverse possibili varianti di nanotecnologia letale. Delle macchine aerovore potrebbero catturare tutta la luce solare, altre sarebbero ghiotte di carbonio, o di biomasse, o potrebbero “cibarsi” di particolari organismi.

Nello scenario peggiore, quello detto della “ecofagia globale”, in soli 20 mesi il pianeta sarebbe distrutto completamente. In questo poco tempo a disposizione l’uomo dovrebbe contrastare macchine in apparenza inarrestabili, individuando il modo di interrompere la loro replicazione.

Per questo la nanotecnologia, conclude l’esperto, va regolata severamente imponendo una moratoria sul suo utilizzo a scopi militari.

Разумные машины
Страшные технологии - разумные машины

È opinione comune che l’umanità assisterà prima o poi alla nascita di macchine dotate di coscienza artificiali. Bisogna però premunirsi con buon anticipo, per considerare tutte le possibili conseguenze anche etiche del caso. Un tema affrontato brillantemente anche nella serie tv “Westworld”, se avete presente di cosa parlo.

Еще в 2003 году философ Томас Метцингер заметил, что было бы ужасно жестоко разрабатывать программное обеспечение, которое может пострадать.

“Cosa direste se qualcuno venisse fuori e dicesse ‘ehi, voglio creare bambini geneticamente disturbati! Per ragioni di progresso abbiamo bisogno di persone senza qualche pezzo, o con specifici deficit emozionali o cognitivi.’. Lo trovereste assurdo o no?”. Di più. Lo troveremmo pericoloso. Una macchina senziente, se davvero senziente, può davvero soffrire ogni genere di deficit. E senza avere alcun comitato etico, alcuna rappresentanza in sua difesa.

По словам футуролога Луи Хелма, одна из лучших особенностей компьютера - это то, что вы можете заставить его делать скучные вещи, не утомляя его. Поскольку мы решили использовать AI вместо человека для некоторых задач, может быть аморальным намеренно запрограммировать его на застенчивость. Захват совести в машину, а затем принуждение ее работать на вас очень, очень похоже на худшее рабство в истории.

Не говоря уже о том, что гипотетический искусственный интеллект, созданный для воссоздания биологической структуры мозга, результатом хорошего программирования может быть тот факт, что этот интеллект потеряет рассудок, если подвергнется несправедливой и значительной нагрузке на его психику.

Это повод уделить пристальное внимание развитию устрашающих технологий на основе искусственного интеллекта, призванных обретать сознание.

Читатели разума
Страшные технологии - чтение мыслей

Опасность пугающих технологий, связанных с этой возможностью, естественно, существует в случае машин, способных читать мысли и воспоминания человека на расстоянии и без его согласия. Это будет очень сложно, пока человеческий мозг не будет подключен к сети или к любой форме связи.

Разработка чтение мыслей procede veloce, purtuttavia. Lo scorso anno un team olandese ha usato scansioni del cervello e machine learning per determinare quali lettere una persona stesse osservando in quel momento. La rivoluzione schiude il potenziale di ricostruire pensieri umani ad un livello di dettaglio mai visto: sarà possibile sapere cosa guardiamo, cosa pensiamo, cosa ricordiamo. Ecco. Ora immaginate una cosa del genere utilizzata da un qualsiasi regime totalitario e ripensate al concetto di “processo alle intenzioni”.

Сообщать об исследованиях, открытиях и изобретениях, обращайтесь в редакцию! ФП на Фатто Котидиано
Альберто Робиати и Джанлука Риччио знакомят читателей со сценариями будущего: возможностями, рисками и возможностями, которые у нас есть, чтобы создать возможное будущее.

По той же теме:

Последний

Комментарии закрыты.