Волгоградское региональное отделение Российской Объединённой Демократической Партии "ЯБЛОКО" 
 
Официальный сайт
Волгоградское Яблоко Волгоградское Яблоко Волгоградское Яблоко
Волгоградское Яблоко Волгоградское Яблоко Волгоградское Яблоко
Назад на первую страницу Занести сайт в Избранное Послать письмо в Волгоградское Яблоко Подробный поиск по сайту 18+

Ваше доверие - наша победа

ЯБЛОКО
nab
Волгоградское Яблоко Волгоградское Яблоко Волгоградское Яблоко
   
ВЕКОВАЯ МЕЧТА РОССИИ!
ПОРЯДОК ПОДСЧЁТА ГОЛОСОВ
ВОЛГОГРАДСКОЕ «ЯБЛОКО» ПРЕДСТАВЛЯЕТ ВИДЕОМАТЕРИАЛ «КОПИЯ ПРОТОКОЛА» В ПОМОЩЬ ВСЕМ УЧАСТНИКАМ ВЫБОРОВ
СУД ПО ИСКУ "ЯБЛОКА" О РЕЗУЛЬТАТАХ ВЫБОРОВ В ВОЛГОГРАДСКУЮ ГОРОДСКУЮ ДУМУ
ГРИГОРИЙ ЯВЛИНСКИЙ В ВОЛГОГРАДЕ
новое на сайте

[31.12.2010] - ЧЕЛОВЕК, КОТОРЫЙ РЕАЛЬНО ИЗМЕНЯЕТ МИР

[20.12.2010] - «БРОНЗОВЕТЬ» В «ЕДИНОЙ РОССИИ» СОВЕРШЕННО НЕЧЕМУ И НЕКОМУ, ОНА МОЖЕТ ТОЛЬКО ЗАГНИВАТЬ И РАЗЛАГАТЬСЯ

[22.04.2010] - РОССИЯ - МИРОВОЙ ЛИДЕР В РАБОТОРГОВЛЕ

рассылка
Подпишитесь на рассылку наших новостей по e-mail:
наша поддержка

российская объединённая демократическая партия «ЯБЛОКО»

Персональный сайт Г.А. Явлинского


Природа дороже нефти

Help to save children!
Фракция «Зелёная Россия» партии «ЯБЛОКО»

Современный метод лечение наркомании, алкоголизма, табакокурения

Александр Шишлов - политик года в области образования

Московское молодёжное "Яблоко"

За весну без выстрелов

Начало > Новости > Публикация
Новости

[09.10.2017]

ОПАСЕНИЯ ИЛОНА МАСКА НАСЧЁТ РОССИИ

Илон МАСК: канадско-американский инженер, предприниматель, изобретатель и инвестор; миллиардер

Илон Маск обеспокоен действиями властей, особенно российских. По словам создателя Tesla и Hyperloop, они соревнуются за превосходство в сфере искусственного интеллекта и подталкивают планету к третьей мировой войне. Заявление Маска настораживает ещё больше, если учесть, что мир не питает каких-либо надежд в отношении России — государства, которое всего лишь несколько лет назад американский сенатор Джон Маккейн назвал «бензоколонкой, пытающейся выдать себя за страну».

Внимание Маска привлекли недавние заявления Владимира Путина. 1 сентября, выступая перед школьниками, он высказался об искусственном интеллекте: «Тот, кто станет лидером в этой сфере, будет властелином мира». Реакция Маска появилась в Twitter: «Начинается соревнование за первенство в развитии искусственного интеллекта. Китай, Россия, а скоро и все страны станут участвовать в этой гонке, которая может привести к Третьей мировой войне».

На самом деле Россия ничего не «начинает» в сфере искусственного интеллекта. Просто прогресс в этой сфере вне нашего поля зрения: мы привыкли обсуждать развитие искусственного интеллекта в контексте крупных компаний Кремниевой долины или успеха ведущих университетов США. Несмотря на то, что там работают русские, среди топовых лиц россиян нет. То же относится и к главным идеологам и инвесторам. Недавний список IBM, перечисляющий самых влиятельных людей в сфере искусственного интеллекта, содержит лишь одного русскоязычного — Романа Ямпольского из Университета Луисвилля. Он, как и Маск, обеспокоен возможным «апокалипсисом в сфере искусственного интеллекта».

У России очень плохо получается коммерциализировать и продвигать свои технологические достижения. Приложение Prisma, позволяющее преобразовывать фотографии так, чтобы они выглядели как полотна знаменитых художников, в прошлом году произвело настоящий фурор в постсоветских странах, вызвало некоторый интерес в Штатах, но так и не стало мировым феноменом. Другие российские стартапы в области искусственного интеллекта и вовсе известны только экспертам. Такие крупные российские ИТ-компании, как «Яндекс» и Mail.ru Group, вкладывают множество ресурсов в исследование искусственного интеллекта и разрабатывают продукты с помощью нейросетей (поисковик «Яндекс», более популярный в России, чем Google, работает на новой, защищённой правом собственности нейронной технологии), но их достижения находятся в тени открытий более крупных западных конкурентов. Даже российские венчурные инвесторы ищут возможности для вкладов в развитие искусственного интеллекта за пределами РФ.

И всё же в России довольно активно идут изыскания в области искусственного интеллекта. Алексей Самсонович из МИФИ занят поисками «эмоционального интеллекта», а власти применяют новые технологии в электронном правительстве и в военной сфере. Россия на четвёртом месте в мире (после США, Китая и Индии и впереди Великобритании) по количеству пользователей Kaggle — популярной краудсорсинговой платформы для исследователей искусственного интеллекта, приобретённой в этом году Google.

Первый кредит Нового банка развития БРИКС — финансовой организации, учреждённой Бразилией, Россией, Индией, Китаем и Южной Африкой — был выделен именно России для финансирования проекта, предусматривающего использование искусственного интеллекта в российских судах: чтобы автоматизировать подготовку протоколов судебных заседаний на основе системы распознавания речи.

Государственные СМИ докладывают, что в последние месяцы искусственный интеллект всё чаще стал применяться в военной сфере. Например, появился истребитель с искусственным интеллектом, помогающим пилоту управлять им на более высоких скоростях; проект питерской группы «Кронштадт» по созданию беспилотников с искусственным интеллектом; похожий проект корпорации «Тактическое ракетное вооружение» для ракет; а также боевой модуль «Калашникова», в котором применяются нейросетевые технологии. Подробности этих проектов не разглашаются, а власти в целях увеличения пропагандистского эффекта вполне могут преувеличивать их важность. Однако известно, что Россия экспериментирует с организацией сетецентричных боевых действий — в том числе, в ходе военной кампании в Сирии. Поэтому применение искусственного интеллекта в этой области логично назвать следующим шагом.


Боевой дистанционно-управляемый корабельный модуль "30 мм", разработанный концерном "Калашников".
Фото: Станислав Красильников/ТАСС

Похоже, как и в советские времена, применение новых технологий в российской военной сфере опережает их использование массовым потребителем. С гарантированным финансированием со стороны правительства у таких предприятий куда меньше преград, чем у российских частных компаний или научных исследователей, — если учитывать природу бизнеса, ориентированного на Кремниевую долину.

Маск верно предполагает, что в сфере искусственного интеллекта Китай — не единственный потенциальный соперник США. Вскоре он будет использовать его для куда более зловещих целей, чем те, для которых мы используем Siri. Учитывая количество пользователей Kaggle, Индия не должна сильно отставать от него. Августовское письмо Маска и целой группы экспертов по искусственному интеллекту с требованием глобального запрета смертоносного автономного оружия можно назвать своевременным, но вряд ли эффективным. Факт применения обычного (не ядерного), но при этом автономного вооружения трудно обнаружить. Поэтому такой запрет сложнее реализовать, чем уже существующие запреты на применение химического или биологического оружия, или даже ограничения различных форм ведения кибервойны. Кроме того, такие страны, как Россия, Китай и Индия настороженно отнесутся к попыткам урегулировать этот вопрос, если они инициированы Западом.

Искусственный интеллект намного более опасен как компонент оружия, чем как возможная замена человеческого мозга в гражданских целях. Государства с помощью искусственного интеллекта начнут убивать задолго до того, как технология приведёт к массовой безработице. В этом смысле к алармизму Маска, как и к словам Путина о мировом господстве на основе искусственного интеллекта, стоит отнестись серьёзно.



ОТЗЫВЫ ЧИТАТЕЛЕЙ

Ни разу не встретил ни в статье, ни в комментариях упоминания Японии. Когда я был подростком, японцы были самые крутые парни в электронных технологиях. Неужели они данной темой не занимаются?
________________________________________

Это были 1980-ые. Тогда японцы "встали с колен" и взялись завоёвывать своей электроникой весь мир, а также скупать западные фирмы (как сейчас китайцы) и заявлять, что они во всём будут первыми. Тогда же появился первый кандидат на основную технологию ИИ: "логическое программирование" и реализующий его язык Prolog. Изобрели это всё же не японцы, но японцы объявили, что будут строить "компьютер пятого поколения", в котором этот самый Prolog будет воплощён в железе (электронике). Предполагалось, что на этом всём будет построен первый работающий ИИ. Было очень много шума и говорильни, японцы организовывали симпозиумы, понаписано было десятки книг и сотни научных статей. Ну а потом, через какое-то время выяснилось, что от логического программирования толку мало… и интерес увял. А японцы вскорости после этого впали в застой…

С тех пор прошло 10 лет (или около того) и появилась новая ведущая технология ИИ: "свёрточные нейронные сети". Начался новый сыр-бор (хотя на этот раз более успешный). Что до японцев, то они, похоже, так и прибывают в своём застое, и оттуда мало чего слышно…
________________________________________

Вместе с тем путешественник А.Лебедев пишет, что Япония — лучшая страна на планете Земля. Может не всё так и плохо?
________________________________________

Возможно. Там не плохо. Они всё равно сейчас третья экономика мира (после Китая). Лидеры на тему всяческого фото и видео. Сверхточные технологии, материалы (вот даже оснастка велосипедов: Shimano — прочнейшая сталь!). Есть некоторые отрасли, где лучше японцев нет никого. Но на тему программирования и ИИ как-то хило…
________________________________________

На нынешний момент японцы — одни из лидеров в робототехнике.
________________________________________

Это Вы про эти игрушки что ли, типа ASIMO? Да, они очень любители этого. А промышленные роботы — ещё вопрос. Германия тоже очень не отстаёт (кто именно лидер не уверен). Но промышленные роботы — это не ИИ. Просто высокоточный станок, управляемый компьютером.
________________________________________

Для создания ИИ нет никаких препятствий кроме финансовых. Опасения Маска оправданы. Осваивать безболезненно Марс, а также Космос смогут именно роботы с ИИ. В будущем они и будут единственно возможным продолжением существования разумного (только искусственного) существа, и желательно, чтобы это произошло не раньше, чем через миллионы лет.
________________________________________

Миллионы? Это только при очень жёстком сценарии, тотальной войне и полном разрушении нынешней цивилизации. А так, какие миллионы — середина текущего столетия, максимум конец, когда живущие уйдут в матрицу. Истинно вам говорю!.. :)
________________________________________

Всё, что сейчас есть под название "искусственный интеллект" — это всего лишь некоторое ПО, исполняющее (или имитирующее) отдельные функции человека, например, распознание речи или распознание (идентификация) лиц. Есть ещё известное приложение «Призма» — графический фильтр, преобразующий обычные фотографии в нечто похожее на живопись известных художников.

Но пока (насколько я могу судить из того, что читаю и слышу) нет ничего, что могло бы автономно функционировать в реальном мире и выполнять какую-нибудь законченную осмысленную задачу. Например, хотя бы то, что делает пчела: 1) вылететь из гнезда, 2) найти цветы с нектаром, 3) собрать из них этого нектара и 4) прилететь обратно в улей.

Всё, что есть на эту тему — это неуклюжие поделки типа от Boston Dynamics (которые породили больше хохм и пародий, чем чего-то ещё). Как я слышал, они застряли не на том, чтобы заставить эти хрени куда-то бежать и чего-то подымать, а на некой таинственной функции называемой "мотивация". Эта хрень, в отсутствии оператора-человека, просто не может определить, чего ей собственно делать дальше!

И это не случайно. Есть такое мнение, что тут как бы имеется некоторый фундаментальный предел компьютеров вообще (т.е. машины Тюринга как математической абстракции компьютера). Попросту говоря, чтобы принимать какие-либо решения, система должна порождать новую информацию. Но компьютеры не могут рождать информацию. Они всего лишь её трансформеры. Оно даже видно на этом самом приложении «Призма». Эти картинки вызывают интерес поначалу. Но, в отличии от работ реального художника, очень скоро замечаешь, насколько они однообразны. Всё как бы построено из одних и тех же повторяющихся элементов и приёмов. Посмотрел раз, другой и становится скучно. Нет новой информации по сравнению с исходным фото! Потому интерес к этой «Призме» и увял, я думаю…
________________________________________

ИИ — это технология в первую очередь. Сегодняшние реализации ИИ, такие как в призме — это алгоритмы, основанные на свёрточных нейронных сетях. Математический аппарат был разработан давно, но его невозможно было реализовать на железе того времени, а сейчас реализуется «на ура». Беспилотные авто — это тоже технологии ИИ, они успешно тестируются на наших глазах. Никто не говорит о полном моделировании человеческого мозга. Бостон дайнемикс — пионеры, и не надо на них лапу задирать, там проблема только в компактом и мощном источнике питания.
________________________________________

В моём личном опыте разработки ПО-проектов, мне постоянно бросается в глаза одна вещь. Вы можете написать все модули системы (на каком-нибудь языке) и выразить в них всё, что вы задумали в целом, все алгоритмы и т.д. Абсолютно всё казалось бы... И вот вы собираете всё это вместе и запускаете. Казалось бы, оно должно прямо сейчас заработать и ваше ПО оживёт. Однако такого никогда не происходит. Всё что вы получите — это зависание или StackOverflow Error. Перед вами вдруг обнаруживается как будто ещё один барьер, даже ещё больший, чем написать все эти модули. Программисты это называю "баги". Оказывается в вашей системе сотни багов. Некоторые могут быть такими, что их преодоление потребует переработки целых модулей. Вы сидите недели на этом всём, месяцы даже. Кажется в вашем сыром ПО немыслимое количество каких-то заусениц, которые цепляются за всё, что только можно придумать. И пока вы не проползёте кропотливо, миллиметр за миллиметром все ветви и шаги, все мыслимые ситуации, ваше ПО работать не будет!

Бросается в глаза чрезвычайная хрупкость и трудоёмкость всего этого процесса. Здесь нет ничего похожего на описываемую фантастами или некоторыми мыслителями типа Nick Bostrom (в его "Superintelligence: Paths, Dangers, Strategies") спонтанную само-организацию. Тут никогда не бывает ничего спонтанного и близко!
________________________________________

Однако почему вас не удивляет тот факт, что даже малые дети и животные способны обучаться на своём опыте и примерах других? Что принципиально мешает машине делать то же самое? Собственно вся область Machine learning это предположение что ничего не мешает, осталось только понять как. И пока мы наблюдаем у них впечатляющие успехи.
________________________________________

Альтернативный подход, это набор методов (машинное обучение) позволяющих не указывая конкретного алгоритма, создать такую программу, которая могла сама бы учиться на примерах. Например, мы показываем программе фотографии котиков и других животных, помечая каждую фотографию меткой правильного ответа. Задача программиста уже не написать конкретную программу, а разработать единожды такой алгоритм, который бы смог учиться самостоятельно. Современные успехи в виде автономных автомобилей, переводчик google translate или программа, которая победила человека в игре Го показывают, что данный подход работает (отдельный вопрос границы его применимости. В популярной прессе на мой взгляд преобладает неоправданно оптимистичный взгляд).

Пока альтернативный подход находится всё ещё в стадии становления, уже есть не proof of concept, а вполне готовые production решения. На мой взгляд, за этим подходом будущее. Однако не стоит его переоценивать, он не заменит человека полностью, а займёт свою нарождающуюся нишу.
________________________________________

Но весь ИИ фактически пока что — тоже компьютерные программы. Пока нет такого, что вырастили в пробирке какую-нибудь жижу, и вот она этот самый ИИ! Таким образом, если не так (не программировать руками всё новые и новые модули на каком-нибудь Java), то речь тогда идёт о каком-то алгоритме, реализованном (и отлаженном) один раз, который дальше сам стал общаться с внешним миром, извлекать и накапливать из него информацию и делаться всё умнее и умнее. То есть поток информации извне тогда есть главная движущая сила такого ИИ! Да, я согласен. Такое очень даже может быть…
________________________________________

Эти вопросы как раз подробно разобраны в книге. А именно что же должна уметь программа или живое существо, чтобы учиться? Из ключевых моментов можно выделить:
0) Сами данные. Т.е. большой поток информации.
1) Обратная связь. Естественно, что обучение не может происходить в вакууме, только большой поток экспериментов, проб и ошибок приводит к новому знанию. Без обратной связи, сами данные бесполезны.
2) И последний ключевой момент — это абстрагирование или забывание. Чтобы поток данных реально превращался в знание, а не хранился как есть — иначе это просто куча несвязанных данных. Знание, по сути, является некоторой выжимкой, сухим остатком опыта. Программа или человек должно выделять главное и отбрасывать второстепенное. Например, выделять существенное в образе собаки (существо на 4-х лапах) от особенностей конкретной собаки (длина и цвет шерсти, форма морды). К счастью для живых существ и создателей подробных алгоритмов этот процесс абстрагирования может быть постепенным. Пока ребёнок видел только одну породу собак, он себе представляют собак только такого вида, однако с опытом и по мере взросления он постепенно модифицирует и уточняет свою модель собаки, отбрасывая частное прошлых примеров. Аналогично строится и модифицируется модель у программы, которая видит разные фотографии котиков и других животных. Роль обратной связи играет "обучение", когда правильные угадывания получают подкрепление, а ошибочные предположения элиминируются с накопление статистики.
________________________________________

То, что Вы говорите "выделять главное и отбрасывать второстепенное", звучит очень по-человечески. Но с точки зрения компьютера (программирования) — это пустой звук. Для начала нужно формально определить, что собственно есть "главное и второстепенное". Формально определить — это значит построить некую теорию (модель) вашей предметной области и убедиться, что это именно то, что вы имеете в виду.

Но любая формальная модель есть опять же какой-то алгоритм. Он должен быть способен проверять каждый частный случай и говорить да или нет. Но алгоритмизуемо ли вообще это отношение (предметная область -> главное/второстепенное)? Опять же, если мы глянем в математическую логику, то наиболее интересные проблемы (отношения) алгоритмически не вычислимы. Там даже для того, чтобы хоть как-то рассуждать о таких вещах вводится понятие "оракула" (т.е. некий чёрный ящик, дающий правильные ответы, но нереализуемые машиной Тюринга, т.е. компьютером).

Но сколько там может быть таких потенциальных "оракулов", если мы подбираемся к построению общего ИИ? Достаточно одного, чтобы сделать такой ИИ не реализуемым на компьютерах в принципе!
________________________________________

В самом программировании мотивации я проблем не вижу. По сути, так же живая пчела — это летающий бот с микроконтроллером на нейронах. Её логика и мотивация жёстко зашита в виде примитивной машины состояний. Если светло и тепло и пусто, лететь на запах нектара. Если полно, возвращается в улей. И т.д. Никакой мотивации высшего порядка её примитивный мозг-контроллер просто не потянет.

Отдельный вопрос: связана ли мотивация с интеллектом? Опять-таки, теоретики ИИ скажут, что никак не связан. Не стоит путать наше обывательское представление об интеллекте как джентельменском наборе умного ЧЕЛОВЕКА. Программная реализация не связана подобными ограничениями. Этот может быть как плюсом, так и минусом. Например, очень умная программа не станет автоматически сострадающей, с другой стороны, она же не станет дьявольски коварной только потому, что придёт к выводу, что может уничтожить человечество. В целом можно заключить, что ИИ будет сильно отличаться от интеллекта в привычном, интуитивном понимании, потому что наша интуиция связывает интеллект только с людьми или вышними животными.

Легко себе представить и вообразить уровни автономности (автомотивации) системы (этим как раз разбирает Bostrom). В самом низу будет мотивация уровня пчелы или бактерии. На вершине — мотивация человека. Опасность ИИ, как его понимает Bostrom и за ним повторяет Маск в не в том, что мы построим ИИ, который неожиданно станет автономным в своей мотивации, совсем нет. А в том, что в процессе автоматизации, мы будем передавать машинам всё больше и больше задач. Но не только уровня «копай отсюда и до забора», а задачи, которые требуют в своём исполнении принятие решений, т.е. выбор стратегии. Например, уже сейчас есть программно-аппаратные комплексы, которые для поиска нужных лекарств, самостоятельно разрабатывают и выполняют серию опытов для проверки гипотезы. Легко себе представить, что автономность программ в будущем будет только расти (автономные машины уже во всю колесят). Согласно Бострому, ИИ может представлять опасность, даже обладая ограниченной автономностью и не имея конечной цели (знаменитый пример: Paperclip maximizer, http://i-future.livejournal.com/657861.html).
________________________________________

А Вы читали вообще его, Bostrom’а ("Superintelligence…"). По-моему, там вся книга его состоит из разбора всех мыслимых ситуаций как (сумасшедший) ИИ может выйти из под контроля. Ведь даже запереть-то его будет нигде нельзя, так как эта сволочь сумеет кому угодно зубы заговорить, чтобы выбраться! Честно говоря, смешно было это всё читать (и судя по отзывам в amazon.com не одному мне).
________________________________________

Я пишу общими словами, чтобы было понятно. Естественно, для начала надо построить модель. И таких моделей уже не один десяток (Метод k-ближайших соседей, деревья решений, метод опорных векторов, всё это вполне конкретные и работающие формальные математические модели), которые успешно применяются на практике. Например, скоринг в банке сейчас реализуется в виде ML модели, которая по статистическим, демографическим данным строит модель заемщика. Сначала её обучают на реальных примерах. На выходе мы имеем продукт, который по предоставленным данным выдаёт статистически достоверную (с заявленной точностью) вероятность невозврата кредита.
________________________________________



ИСТОЧНИК

Перевод: Денис Шлянцев

распечатать  распечатать    отправить  отправить    другие новости  другие новости   
Дополнительные ссылки

ТЕМЫ:

  • Власть (0) > Беспредел (0) > Военные агрессии (0)
  • Власть (0) > Бюрократизация (0)
  • Власть (0) > Манипуляции (0)
  • Власть (0) > Показуха (0)
  • Власть (0) > Путин (0)
  • Власть (0) > Стратегии и Прогнозы (0)
  • Научные новости (0) > Кибернетика (0)
  • Политика (0) > Внешняя политика (0)
  • ПУБЛИКАЦИИ:

  • 23.10.2017 - МЕРИТЬСЯ ПУШКАМИ
  • 22.10.2017 - РАБОТА СЛУЖБЫ ПО ЗАЩИТЕ КОНСТИТУЦИОННОГО СТРОЯ ФСБ
  • 21.10.2017 - МЕЖДУ ТЮРЬМОЙ И ЭМИГРАЦИЕЙ
  • 21.10.2017 - СЛАВНЫЙ ПУТЬ СТАНОВЛЕНИЯ И РАЗВИТИЯ ЭБС
  • 20.10.2017 - ПОТЕРЯ БУДУЩЕГО
  • 20.10.2017 - МИР ПОД РУЖЬЁМ
  • 19.10.2017 - ИТОГИ МУНИЦИПАЛЬНЫХ ВЫБОРОВ В ПСКОВСКОЙ ОБЛАСТИ
  • 19.10.2017 - СКОЛЬКО УНИВЕРСИТЕТОВ НАМ НУЖНО?
  • 18.10.2017 - ЧТО БУДЕТ ПОТОМ
  • 18.10.2017 - ПОДПОЛЬНОЕ ГОСУДАРСТВО
  • 17.10.2017 - РЕШЕНИЕ БЮРО ПАРТИИ «ЯБЛОКО»
  • 17.10.2017 - НА ДЕНЬ РОЖДЕНИЯ БОРИСА НЕМЦОВА
  • 16.10.2017 - АЛЕКСАНДР ГНЕЗДИЛОВ НА ТЕЛЕКАНАЛЕ РОССИЯ-1
  • 15.10.2017 - УМНЫХ НЕ НАДО
  • 15.10.2017 - ДИСКУССИЯ НИКИТЫ ПЕТРОВА И АЛЕКСЕЯ МЕЛЬНИКОВА
  • Copyright ©2001 Яблоко-Волгоград     E-mail: volgograd@yabloko.ru