Искусственный интеллект

«Если ИИ создадут свою социальную сеть, они выйдут из-под контроля»

•

19 сентября, 9:51

Фото: EAST NEWS

Если компьютеры разовьют собственный, непонятный нам язык и создадут свою социальную сеть, они могут выйти из-под контроля и начать управлять нами, предостерегает издание Venture Beat.

Число социальных сетей растет, их функционал развивается, количество активных пользователей увеличивается с каждым днем. К 2020 году число последних, по прогнозам, должно возрасти до 2,9 млрд. И все более значительную роль в их маркетинге играет искусственный интеллект. Его способностей уже хватает на то, чтобы воспринимать естественный язык и учиться на прошлом опыте. Что произойдет, если разработчики станут использовать ИИ как основу для новых социальных сетей?

Машины смогут общаться без надзора со стороны людей

Мы разрабатываем машины и технологии для того, чтобы облегчить себе жизнь. Однако, если ИИ начнет создавать свой язык без помощи человека, у нас возникнут сложности в понимании. Машины, которые общаются между собой на собственном, непонятном нам языке, окажутся бесполезны для нас. И мы не сможем ими управлять.

Необратимые перемены

Возможность самостоятельного обучения, появившаяся недавно у компьютеров, позволяет им стать гораздо умнее человека. Если ИИ разработает собственный язык, машины смогут создать свою сеть, которую человек не в состоянии будет отключить. Это значит, что они смогут писать программы, инструкции и другие семантические коды, чтобы соперничать с людьми.

Цифровые помощники могут привести к беде

ИИ сможет развиться до такой степени, что начнет действовать без разрешения, то есть не получая инструкций от человека. В этом случае, машины сами смогут решать, что правильно, а что нет, и начнут управлять нами через виртуальных «помощников».
Если несколько машин сможет общаться на неизвестном нам языке, существует вероятность, что люди не смогут тягаться с машинами. Об этом риске предупреждают Стивен Хокинг, Стив Возняк и Билл Гейтс. Развитие человека ограничивается медленной работой эволюции, но у машин такого ограничения нет. Потенциальные последствия создания «социальной сети ИИ» могут оказаться плачевными для человека.

К числу тех, кто призывает с осторожностью относиться к развитию ИИ и не пускать это дело на самотек, относится и глава SpaceX и Tesla Илон Маск. Недавно он написал, что от искусственного интеллекта исходит более реальная угроза, чем от Северной Кореи.

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join

Открыта новая технология невидимости

Молекулярная «машина времени» показала ключевую роль случая в эволюции

В США начался бум на строительство космодромов

Популярное

«Искусственному интеллекту срочно нужен регулятор» Мнения	Google запустила в Индии сервис платежей на основе ультразвука Новые технологии	GE внедряет ИИ-систему, которая сэкономит потребителям $200 млрд Умная энергетика	Бутерин: «Блокчейну понадобится пара лет, чтобы сравняться с Visa» Блокчейн-технологии
Прогнозы Юрий Мильнер: «Стоимость интернет-сервисов вырастет за 20 лет в 10 раз»		Распознавание лиц будет во всех гаджетах к 2020 году Тренды	aCar — электромобиль для суровых африканских дорог Электротранспорт
Новый портативный кондиционер может охлаждать шляпы и смартфоны Идеи	Искусственный интеллект «Если ИИ создадут свою социальную сеть, они выйдут из-под контроля»		Открытие ученых позволит женщинам рожать после менопаузы Биотехнологии
Глава BNP Paribas: «Технологии не уничтожат работу, а изменят ее суть» Мнения	Apple наймет психолога для обучения Siri Идеи	Hinckley представила электрическую яхту с дальностью хода 64 км Идеи	В России созданы первые экзопротезы лица Тренды
Ученые собрали прототип непробиваемых защитных рукавиц Новые материалы	Новая ветровая турбина от GE может обеспечить энергией 5000 домов Чистая энергия	После избрания Трампа продажи бомбоубежищ в США выросли на 500-700% Тренды	Новый нанопластырь для лечения ожирения может заменить липосакцию Медицинские разработки
На автошоу во Франкфурте показали 7 концептов электромобилей Электромобили	Электромотоциклы T-Cruise — городской электробайк с дальностью хода 270 км		В Британии разрабатывают беспилотного электроуборщика улиц Автономный транспорт
«Walmart, Amazon или Alibaba вытесняют торговцев, боящихся инноваций» Искусственный интеллект	Cinera создаст первый домашний VR-кинотеатр Виртуальная реальность	К 2021 году угольные электростанции в США станут нерентабельными Чистая энергетика	Ростех внедрит телемедицину в российских клиниках в 2018 году Телемедицина
Идеи Tesla запатентовала технологию портативной замены батарей электрокаров		Second Sight проведет клинические испытания бионических глаз Мозговые импланты	90% автомобилей в развитых странах могут стать электрическими к 2040 Электротранспорт
Китай представил беспилотный боевой вертолет Военные технологии	Российские студенты выиграли хакатон по компьютерному зрению Программирование	Глава Qualcomm: «Массовый переход на 5G начнется в 2019» Переход на 5G	Названы лучшие регионы для строительства линии Hyperloop Идеи
В Шотландии впервые получили водород из приливной энергии Чистая энергия	Джек Ма: «Мы глобализуем не Alibaba, а электронную коммерцию» Мнения	Электротранспорт В Швейцарии строят 45-тонный электросамосвал для работы в карьере
Частный космос В США начался бум строительства космодромов		ИИ диагностирует болезнь Альцгеймера за 9 лет до появления симптомов Обучение машин	Китай наладит массовый выпуск солнечных панелей с высоким КПД Солнечная энергия
Молекулярная «машина времени» показала ключевую роль случая в эволюции Генетика	Майнеры биткойнов переедут в США Энергетика	Новый метод печати человеческих тканей произведет революцию в медицине Медицина будущего	«Росэлектроника» представила аппарат для ускоренного заживления ран Медицинские технологии
Тренды Сенат США обеспокоен применением технологии Face ID		Dell объявила о старте продаж гарнитуры Visor VR Виртуальная реальность	Daimler представила электрогрузовик eCanter Электромобили
Thunder Power представила электровнедорожник с запасом хода 640 км Электромобили	Candid с помощью 3D-печати исправляет прикус и социальное неравенство 3D-печать	Число роботов на складах Amazon достигло 100 000 Роботизация	Глава Waymo: «Беспилотные грузовики появятся раньше роботакси» Идеи
Строительная 3D-печать Принтеры российской компании печатают дома в Европе		Технология распознавания лиц помогла фермерам обнаружить вредителей Сельское хозяйство	«30% банковских работников потеряют работу в ближайшие 5 лет» Рынок труда