Автор Тема: Искусственный интеллект (ИИ)  (Прочитано 2154 раз)

Онлайн abu_umar_as-sahabi

  • Ветеран
  • *****
  • Сообщений: 11429
Искусственный интеллект (ИИ)
« : 06 Февраля 2025, 20:42:24 »
Хокинг: искусственный интеллект - угроза человечеству
Рори Кехлан-Джонс Би-би-си

    2 декабря 2014

Профессор Стивен Хокинг, один из самых уважаемых и известных британских ученых, заявил, что усилия по созданию мыслящих машин могут привести к тому, что само существование человечества окажется под угрозой.

В интервью Би-би-си он отметил, что "появление полноценного искусственного интеллекта может стать концом человеческой расы".

Это апокалиптическое предсказание прозвучало в ответ на вопрос о новой технологии, которой профессор пользуется для общения с внешним миром.

К счастью, далеко не все верят в такие мрачные перспективы.

Профессор Хокинг, страдающий латеральным амиотрофическим склерозом, для передачи речи пользуется специальной системой, разработанной американской компанией Intel.

В создании оборудования для Хокинга принимали участие и эксперты по обучению искусственного интеллекта из британской компании Swiftkey. Их технология, уже применяемая в клавиатуре смартфонов, "изучает" ход мыслей профессора и предлагает слова, которые тот мог бы употребить в следующей фразе.

Опасны ли нам роботы?

Стивен Хокинг отметил, что примитивные формы искусственного интеллекта, уже существующие на сегодняшний день, доказали свою полезность, но он опасается, что человечество создаст что-то такое, что превзойдет своего создателя.

"Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем", - сказал Хокинг.

Однако далеко не все придерживаются такой пессимистической точки зрения.

"Я думаю, что мы останемся хозяевами создаваемых нами технологий еще очень и очень долгое время, и они помогут нам решить многие мировые проблемы", - так считает Ролло Карпентер, создатель веб-приложения Cleverbot.

Программное обеспечение Cleverbot хорошо зарекомендовало себя в так называемом тесте Тьюринга. Суть теста Тьюринга заключается в следующем: может ли человек, общающийся с другим человеком и компьютером, на основании ответов на вопросы определить, в каком случае его собеседником является человек, а в каком - машина. Задача компьютера – так подстроиться под человеческую логику, чтобы его было невозможно распознать.

Cleverbot сумел обмануть немало людей, успешно сымитировав ход человеческой мысли.

Восстание машин

Ролло Карпентер полагает, что до создания необходимых алгоритмов, которые приведут к появлению полноценных искусственных интеллектов, остается еще несколько десятилетий.

"Мы не можем с уверенностью сказать, что произойдет, когда машины превзойдут нас интеллектом. Следовательно, мы не можем предсказать, и как они поведут себя: станут ли они нам помогать, нас игнорировать или же рано или поздно нас уничтожат", - полагает он.

Однако Карпентер все-таки склонен считать, что искусственный интеллект окажется позитивной силой.

При этом профессор Хокинг не одинок в своем пессимистическом видении будущего.

Есть опасения, что в краткосрочной перспективе машины, обученные выполнять грязную механическую работу, лишат людей миллионов рабочих мест.

А в более отдаленном будущем машины могут стать основной угрозой нашему существованию, опасается инженер и предприниматель, основатель космической компании SpaceX Элон Маск.

Компьютерная речь

В интервью Би-би-си профессор Хокинг также затронул выгоды и опасности интернета.

Он процитировал слова директора Британского центра по контролю за коммуникациями (GCHQ) Роберта Ханнигана, который предупредил, что интернет становится командным центром для террористических организаций.

"Интернет-компании должны сделать больше для противодействия этой угрозе. Однако сложность заключается в том, чтобы при этом не пострадали ни свобода, ни право на личную жизнь", - предупредил Ханниган, а вслед за ним повторил и профессор Хокинг.

При этом прославленный ученый с большим энтузиазмом высказался о создании новых коммуникативных технологий, который позволят, например, ему самому писать гораздо быстрее.

Его собственный, генерируемый компьютером "голос" ни разу не менялся, несмотря на все инновационные технологии.

Сам Хокинг признает, что этот голос имеет слегка искусственное, механическое звучание, но отказывается менять его на что-то более естественное.

"Он стал моей визитной карточкой, и я ни за что не поменяю его на более "живой" голос с британским акцентом", - сказал он.

"Мне рассказывали, что когда больным детям требуется компьютерный голос, они просят, чтобы он звучал так же, как и мой", - отмечает Хокинг.

http://www.bbc.com/russian/science/2014/12/141202_hawking_ai_danger

==============================

Гарри Каспаров: "Не надо бояться искусственного разума"

    29 июля 2017

Человечество не должно сопротивляться переменам, которые несут в себе машины, обладающие искуственным интеллектом, заявил бывший чемпион мира по шахматам Гарри Каспаров.

Выступая на конференции хакеров Def Con в Лас-Вегасе Каспаров выразил несогласие с распространенной точкой зрения о том, что более широкое использование подобных разумных машин будет представлять угрозу для человечества.

Но в то же время он признал, что это, вероятно, повлечет за собой колоссальные социальные перемены по мере того, как роботы будут приходит на замену "дрожащим рукам" людей.

По его мнению, полезно было бы ускорить этот процесс, поскольку ничего плохого он в конечном счете не несет.

Противоположное мнение ранее высказывал ряд ученых, в том числе и известный английский физик-теоретик Стивен Хокинг.

Опираясь на свой опыт игры в шахматы с разработанным компанией IBM суперкомпьютером Deep Blue, Каспаров в своей обстоятельной речи попытался поставить развивающийся искусственный интеллект в исторический контекст.

Лишь теперь, по его словам, человечество наконец-то видит в действии "настоящий искусственный разум", под которым Кспаров понимает своего рода "черный ящик", приходящий к определенным выводам самостоятельно, причем логическую цепочку, предшествующую этим выводам, невозможно воспроизвести.

Он привел в качестве примера подобного типа искуственного интеллекта разработанную компанией DeepMind (с 2014 года принадлежащую корпорации Google) программу для игры в го AlphaGo, которая в 2016 году победила профессионального игрока в го Ли Седоля.

В противоположность этому шахматный суперкомпьютер Deep Blue, разгромивший Каспарова в 1996 и 1997 годах - это просто чрезвычайно быстрый компьютер, который, по словам шахматиста, использовал довольно примитивную технику простого перебора огромного множества вариантов, чтобы его побить.

"Deep Blue был не смышленее будильника", - отметил Каспаров.

"Однако, - добавил он, - от того, что я проиграл будильнику ценой 10 млн долларов, мне, конечно, не легче".
 
Созидательное разрушение?

Более широкое использование по-настоящему умных сашин не грозит человечеству исчезновением, поскольку история показала, что практически каждая новая технология или нововведение в прошлом приносили с собой "созидательное разрушение", полагает бывший чемпион мира по шахматам.

"Проблема не в том, что роботы заменяют на рабочих местах человека, и не в том, что они ополчились против людей с высшим образованием и аккаунтом в "Твиттере", - сказал Каспаров. - Технология, прежде чем создать новые рабочие места, их уничтожает. Всегда так было".

Уже есть примеры того, как умные машины помогают некоторым людям лучше делать свою работу, позволяя компьютеру делать то, с чем сами люди справляются с трудом.

Например, сказал Каспаров, экспертные системы (то есть системы искусственного интеллекта, содержащие расширенную базу знаний по определенному предмету, анализатор проблемы и компонент поддержки), способные поставить диагноз больному более точно, чем живой доктор, работают лучше, когда их анализ берут на вооружение медработники, способные сразу же предпринять какие-то терапевтические меры на основе поставленного машиной диагноза.

Будущие поколения, по его мнению, будут взирать на XXI век с удивлением по поводу того, что все было завязано на человека, особенно в таких сферах, как управлением автотранспортом, где человеческие ошибки несут другим людям угрозу, которой иначе можно было бы избежать.

Когда люди работают сообща с искуственным интеллектом, это открывает огромные возможности для творческого самовыражения и перемен к лучшему, сказал Каспаров.

"У всех нас есть страхи по поводу того, что нас заменят машины и мы вымрем. Но я уверен, что есть огромный простор для творческой фантазии. Просто колоссальный. От нас зависит то, что могут делать только люди - то есть мечтать и мечтать на всю катушку, чтобы извлечь все то полезное, что предлагают эти потрясающие новые ресурсы", - сказал в заключение Гарри Каспаров.

http://www.bbc.com/russian/features-40764216


===================================

аль-Ва'и от 30 сент. 2017 г

ЦРУ берёт на вооружение искусственный интеллект

Центральное разведывательное управление запустило искусственный интеллект для анализа всех существующих баз данных. Как заявила 7 сентября заместитель директора ЦРУ по развитию технологий Дон Мейерикс на саммите по разведке и национальной безопасности в Вашингтоне, в настоящее время у агентства имеется 137 запущенных проектов по искусственному интеллекту, часть которых непосредственно связана с разработчиками из Силиконовой долины (отличающейся большой плотностью высокотехнологичных компаний). По её словам, эти «эксперименты» посвящены широкому спектру проблем, от прогнозирования событий на основе больших данных до автоматического распознавания и пометки объектов и людей на видео, с целью привлечь внимание экспертов ЦРУ. Крис Хёрст, глава компании «Stabilitas», работающей по контракту на разведку США, описал это так: «Человеческое поведение — это данные, а ИИ (искусственный интеллект) — это модель данных. Там, где есть закономерности, ИИ справится лучше людей». Представители других разведслужб США (в том числе — военных), принимавшие участие в саммите, так же заявили о разработках решений, основанных на ИИ, которые позволят превратить терабайты данных, поступающих ежедневно по их каналам, в действительно полезную в политике и на полях сражений информацию.

Но привлекательнее всего, по словам участников саммита, является их способность следить за соцсетями. «Сбор информации из социальных медиа — не новое для разведки явление», — сказал Джозеф Гартин, глава Кентской школы ЦРУ. «Новшество заключается в объёме и скорости сбора данных из социальных сетей», — подчеркнул он. В этом примере вычисления могут выделять ключевые слова и имена, а также находить шаблоны в данных и постоянно совершенствовать этот поиск. По словам директора Национального агентства геопространственной разведки Роберта Кардилло, через 20 лет для того, чтобы вручную изучить изображения, полученные с коммерческих спутников, потребуется 8 миллионов аналитиков. Ранее в том же контексте президент РФ Владимир Путин заявил, что «властелином мира» станет обладатель самых передовых ИИ-технологий.

أجهزة المخابرات الغربية تعتمد الذكاء الاصطناعي في تحليل البيانات والمعطيات
تتجه أجهزة المخابرات الأميركية إلى الذكاء الاصطناعي لمساعدتها في تقييم أهمية مختلف البيانات وفهم الأحداث الجارية في العالم. وأوضحت مسؤولة التطوير التكنولوجي في وكالة الاستخبارات المركزية دون ميريكس خلال مؤتمر حول الأمن القومي والاستخبارات، أن وكالة الاستخبارات المركزية (سي آي إيه) تدرس حاليًا 137 مشروعًا يقوم على الذكاء الاصطناعي، وضع معظمها بالاشتراك مع مطورين من وادي السيليكون. ويمكن استخدام الذكاء الاصطناعي للتكهن بأحداث هامة، سواء سياسية أو غير سياسية، من خلال إيجاد روابط بين التغييرات في تدفق البيانات وغيرها من المعلومات. ومن الاحتمالات الأخرى المطروحة استخدام الكمبيوتر للتعرف بدون تدخل بشري إلى أشياء أو أفراد على أشرطة فيديو لفتت انتباه محللي (السي آي إيه.) وقال كريس هورست مدير العمليات في شركة “ستابيليتاس” المتعاقدة مع أجهزة الاستخبارات الأميركية: “إن سلوك كائن بشري كناية عن بيانات، والذكاء الاصطناعي كناية عن نموذج قائم على بيانات”. وتابع: “حيث هناك أنماط سلوك، أعتقد أن الذكاء الاصطناعي قادر على إنجاز عمل أفضل” من البشر. وأفاد مسؤولون آخرون من وكالات استخبارات أميركية مشاركون في المؤتمر، ولا سيما وكالة الأمن القومي المتخصصة في التنصت على الاتصالات، وأجهزة الاستخبارات التابعة للبنتاغون، أنهم يبحثون عن حلول تقوم على استخدام الذكاء الاصطناعي لتحويل مليارات البيانات الجزئية المتوافرة لديهم إلى معلومات موثوقة يمكن استخدامها في عمل الإدارة أو في ساحة المعركة. وأوضح عميد معهد “كنت سكول” الذي يخرج محللي (السي آي إيه) جوزف غارتين أن مسح شبكات التواصل الاجتماعي بشكل دقيق بحثًا عن معلومات ليس بالأمر الجديد، لكن “ما هو جديد هو حجم البيانات التي يتم جمعها من شبكات التواصل الاجتماعي وسرعة جمعها”. وفي هذه الحالة، فإن الأنظمة القائمة على الذكاء الاصطناعي يمكنها اختيار كلمات مفاتيح وأسماء، أو رصد أي تكرار أو تطابق، واكتساب معرفة بهذه الأنماط تدريجيًا. وقال مدير وكالة الاستخبارات الجغرافية-المكانية روبرت كارديلو: “إذا أردنا أن نحلل يدويًا كل الصور المستقبلة عبر الأقمار الصناعية التي نتوقع تلقيها خلال السنوات العشرين المقبلة؛ فلا بد لنا من توظيف ثمانية ملايين محلل متخصص في الصور”. في السياق نفسه أعلن الرئيس الروسي فلاديمير بوتين أن الذكاء الاصطناعي هو المستقبل. وقال “إن الذي سيصبح الرائد في هذا المجال سيكون سيد العالم”، وذلك بحسب تصريحات نقلتها وكالات الأنباء الروسية


=====================================

Искусственный интеллект - угроза или помощник для человечества?
Ксения Гогитидзе Би-би-си, Лондон

    10 февраля 2017

Умные машины научились блефовать, обыгрывать профессионалов в шахматы или Го, переводить и распознавать человеческий голос. Каждую неделю мы узнаем о все новых подвигах компьютерных программ, уже умеющих ставить медицинские диагнозы, рисовать не хуже Рембрандта, петь или генерировать текст. Стоит ли человеку опасаться искусственного интеллекта?

По-настоящему "горячей" тема искусственного интеллекта (ИИ/AI) стала в последние несколько лет. Ученые связывают это с бурным развитием нейронных сетей (одно из направлений исследований в области искусственного интеллекта), которое, в свою очередь, стало возможным с появлением мощных компьютеров.

"С начала 2010-х годов под влиянием впечатляющих успехов, полученных в результате применения многослойных нейронных сетей (в первую очередь сверточных и рекуррентных), эта область привлекла серьезное внимание как со стороны ученых и инженеров, так и со стороны инвесторов", - комментирует автор одной из российских шахматных программ, специалист по методам машинного обучения Сергей Марков.

Ученое сообщество может спорить о сроках появления умных машин, но сходится в одном: развитие технологий окажет безусловное влияние на общество, экономику и отношения между людьми в будущем. Уже сейчас раздаются призывы обдумать этические принципы разработки искусственного интеллекта, удостоверившись в том, что искусственный интеллект развивается в безопасном для людей направлении.

Этот материал подготовлен в качестве ответа на вопросы, присланные нашими читателями о научных достижениях. Задать свои вопросы по другим темам вы можете по этим ссылкам (О жизни в Британии, О культурной жизни Лондона).

Экономический эффект и влияние на рынок труда

Научная фантастика и Голливуд сформировали представление об "искусственном интеллекте" как о следующей форме жизни на планете, которая поработит человечество в Матрице или организует ему ядерный Судный день. Выживших добьет Терминатор.

В действительности, несмотря на последние достижения в области искусственного интеллекта, до появления разумных машиносуществ еще далеко, признают ученые и специалисты. И те, и другие, впрочем, советуют на некоторые аспекты обратить внимание уже сейчас.

По оценкам исследовательской организации McKinsey Global Institute, в ближайшие десять лет новые технологии радикально изменят рынок труда на планете, что позволит сэкономить порядка 50 трлн долларов.

Изменения коснутся сотен миллионов рабочих мест. Люди все больше и больше будут перекладывать часть своих служебных заданий и многие рутинные задачи на машину, что позволит им сосредоточиться на творческой работе.

"С некоторой точки зрения у человечества в целом есть важная и интересная задача - развиваться каждому конкретному индивидууму гораздо быстрее, чем человечество развивает системы искусственного интеллекта", - считает эксперт, директор по распространению технологий "Яндекса" Григорий Бакунов.

Но вместе с автоматизацией неминуемо пострадают менее квалифицированные кадры, и уже сейчас необходимо задуматься, как их защитить, переучить и подготовить к новой жизни.

Пострадать, как показывает практика, могут не только синие воротнички, но и работники умственного труда. Несколько дней назад Goldman Sachs заменил команду из 600 трейдеров на двух человек и автоматизированные программы алгоритмического трейдинга, для обслуживания которых были наняты 200 разработчиков-программистов.

Искусственный интеллект сам по себе не тождественен автоматизации процессов, но развитие ИИ приведет к тому, что все больше задач будет по силам компьютерной программе.

Среди вариантов решения проблемы вытеснения человека машиной на рынке труда, как указывает Аллисон Дютман, координатор программ Foresight Institute - некоммерческой организации, базирующейся в Силиконовой долине для продвижения новых технологий, - введение понятия "универсальный базовый доход", который бы получал каждый житель вне зависимости от уровня дохода и занятости. Подобный доход финансировался бы за счет так называемого инновационного налога Land Value Tax, введение которого сейчас активно обсуждается в Силиконовой долине.

Личность ли искусственный интеллект?

Является ли роботизированная система личностью? Может ли умный компьютер голосовать? Какого он пола? Отношения человека и умной машины уже сейчас обсуждают депутаты Европарламента, задаваясь вопросом, следует ли наделять будущих роботом статусом "электронной личности".

Как указывает Дютман, люди нехотя делятся правами с теми, кто им непонятен, а значит будут сопротивляться "очеловечиванию" ИИ.

"Принимая во внимание, как долго человечество шло к тому, чтобы наделить равными правами всех людей, вне зависимости от цвета их кожи, расы или гендера, можно уже сейчас предположить, что и машины они не сходу не признают равными.

Вместе с этическими появляются и юридические тонкости: кто возьмет на себя ответственность в случае аварии беспилотного автомобиля или поломки умного медицинского устройства - и нравственные вопросы: стоит ли развивать беспилотное оружие, способное действовать без ведома человека?

Третья этическая головоломка обсуждается чаще других и волнует человечество гораздо больше: что теоретически может сделать с человечеством суперинтеллект, настоящая умная машина?

Научить ИИ этике

Специалисты в области развития ИИ признают: пусть не в ближайшие 20-30 лет, но человечество все же доживет до появления настоящего искусственного интеллекта, который будет умнее своего создателя.

"Последний бастион будет взят тогда, когда будет создан так называемый "сильный ИИ" (Strong AI, Artificial General Intelligence), то есть такой ИИ, который будет способен решать неопределенно широкий спектр интеллектуальных задач", - говорит Сергей Марков.

А главное, такой ИИ сможет самостоятельно думать.

Исследованием угроз, которые таит ИИ, а также этическими проблемами, связанными с новыми технологиями, занимаются многие институты, в числе которых организация Future of Life Institute (Институт будущего жизни), Foresight Institute, Future of Humanity Institute, OpenAI и другие.

Решение Аллисон Дютман из Foresight Institute - дать компьютеру прочитать всю научную литературу, научные статьи, поднимающие вопрос об этике, и сделать эту информацию основой для его будущих решений.

Что такое Нейронные сети и какое у них будущее?

Большинство экспертов связывают прогресс в развитии ИИ с развитием нейронных сетей.

Нейронные сети - это одно из направлений исследований в области искусственного интеллекта, основанное на моделировании биологических процессов, которые происходят в человеческом мозгу.

Именно им мы обязаны появлению впечатляющих результатов в распознавании речи и изображений, постановке медицинских диагнозов, переводе текста и создании изображений, генерации речи и музыкальной композиции.

На сегодня, как признают специалисты, нейронные сети признаны одним из лучших алгоритмов машинного обучения, а решения на их основе показывают на данный момент самые выдающиеся результаты.

И это несмотря на то, что современные нейронные сети устроены в полторы тысячи раз проще, чем головной мозг крысы.

"Пока что создаваемые нами нейронные сети относительно невелики по сравнению, скажем, с нейронной сетью человеческого мозга и, кроме того, они представляют собой весьма упрощенный аналог естественных нейронных сетей. Поэтому пока что при помощи нейронных сетей мы решаем в основном сугубо прикладные задачи", - рассказывает Сергей Марков.

Сейчас создаются специализированные процессоры для обучения таких сетей (так называемые нейроморфические процессоры), которые позволят увеличить скорость вычислений на несколько порядков.

Разработчики не просто заняты сейчас увеличением количества нейронов в сети, но и изменением конструкции сетей. "Сложные системы конфигурации сетей - то, с чем сейчас производится наибольшее число экспериментов", - рассказывает Григорий Бакунов.

А тот факт, что такие системы стали сравнительно доступными большому числу рядовых разработчиков, привел к появлению стартапов, экспериментирующих с нейронными сетями, например Prisma (приложение позволяет обрабатывать фотографии, превращая их в стилизации картин известных художников) и Mubert (онлайн-композитор электронной музыки).

Что нас ждет в ближайшее время

Как прогнозирует профессор Университетского колледжа Лондона и Principal Scientist Nokia Bell Labs Ник Лейн, человека будут окружать еще больше "умных вещей". Они станут компактнее и эффективнее.

Профессор приводит такой пример: если раньше встроенный в стену сенсор мог лишь осознавать, что кто-то прошел мимо, то в будущем он будет не только знать, кто конкретно прошел, но и как ведет себя человек, не нуждается ли в чем, не представляет ли он угрозу для себя или окружающих.

Сенсор размером с пуговицу сможет оповещать человека в случае опасности.

С профессором согласен и Григорий Бакунов из "Яндекса": "В ближайшее время нас ждет бум развития узких искусственных интеллектов, которые помогают решать какую-то одну довольно простую задачу, но которую они будут решать даже лучше, чем человек".

Система распознавания голоса, например, уже сейчас распознает некоторые голосовые команды и адреса лучше, чем человек.

"Наиболее вероятным путем развития нашей цивилизации является путь синтеза человека и машины: палка, одежда, автомобиль, мобильный телефон, кардиостимулятор или кохлеарный имплантат - по мере развития наши инструменты все более и более напоминают продолжение наших тел. Уже завтра машины смогут получать от человека мысленные команды, воспринимать мысленно формируемые визуальные образы, передавать информацию непосредственно в мозг - такие проекты уже сейчас существуют за стенами наиболее продвинутых технологических лабораторий", - подытоживает Сергей Марков.

Журналисты пока еще нужны?

Газета Financial Times в прошлом году провела довольно рискованный эксперимент, одновременно поставив задачу написать текст своему профильному корреспонденту и умной программе по имени Эмма. Обе статьи затем должен был прочитать редактор Financial Times и угадать, за какой из двух заметок стоит журналист, а за какой компьютер.

Перед этим своеобразным "краш-тестом" корреспондент Financial Times признавалась: "Я думаю, программа точно справится с задачей быстрее меня. Но, надеюсь, я все-таки сделаю это лучше".

Так и случилось: Эмма действительно оказалась быстрее - программа сгенерировала текст на основе статистики об уровне безработицы в Британии за 12 минут. Журналистке потребовалось 35 минут. И, как она сама впоследствии признавалась, Эмма превзошла ее ожидания. Программа не только умело обращалась с фактами, но и поставила новость в контекст, предположив, как возможный "брексит" (дело было в мае 2016 года, до референдума о выходе Британии из ЕС) может изменить ситуацию.

Но кое-что Эмма сделала все же хуже журналистки. "Статья Эммы была написана немного более корявым языком. Но главное, в ней было очень много цифр, - признавался редактор FT. - А, пожалуй, главное, что мы тут пытаемся делать, так это выбирать только действительно важные цифры".

Эмма - продукт стартапа Stealth. В компании говорят, что у Эммы есть команда живых помощников, но утверждают, что все, что она пишет или делает, - продукт исключительно ее "мозгов".

И все-таки - надо ли бояться ИИ?

Многие, если не все специалисты, задействованные на сегодняшний день в разработке систем искусственного интеллекта, охотно признают, что ИИ не скоро сделает людей ненужными. Именно потому, что искусственный интеллект еще не настолько умен. Главное, чего ему на сегодняшний день не хватает, - автономной возможности думать.

"Сейчас бояться ИИ ни в каком виде не стоит. Можно подождать лет 30-40, пока действительно какие-то радикальные изменения произойдут", - считает Бакунов.

Но кое-что уже происходит: понемногу стирается грань между работой или задачей, выполненной человеком, и задачей, выполненной машиной. Как объясняют специалисты, уже сейчас порой бывает сложно понять, кто сидит внутри системы - человек или машина.

"Нет критериев, когда мы сможем понять, что внутри машины зародилось сознание", - задается вопросом Бакунов.

Человек станет скрепкой?

Известный адепт алармистской точки зрения, в рамках которой ужасы, описанные в Терминаторе, могут стать реальностью, - философ Ник Бостром - придерживается мнения, что достигший интеллектуального уровня человека ИИ способен будет уничтожить человечество.

Бостром объясняет на примере скрепок: вы ставите перед искусственным интеллектом задачу делать скрепки, как можно больше и лучше. ИИ в какой-то момент понимает, что человек представляет угрозу, потому что может выключить компьютер, что будет противоречить задаче делать как можно больше скрепок. В случае, если человек не представляет угрозу, ИИ решает, что человеческие тела состоят из атомов, которые можно использовать для производства отличных скрепок. Итог - компьютер изведет человечество на скрепки.

Такой сценарий многим кажется преувеличением. По мнению Сергея Маркова, например, "высокая эффективность выполнения нелепой цели несовместима с нелепостью этой цели - грубо говоря, ИИ, способный переделать весь мир в скрепки, будет неизбежно достаточно умен для того, чтобы отказаться от такой цели".

Искусственный интеллект как золотая рыбка

Британский специалист в области искусственного интеллекта, профессор когнитивной науки в Университете Сассекса Маргарет Боден относится к утверждениям о скором пришествии умных машин скептически.


В мае 1997 года компьютер Deep Blue II впервые выиграл матч у Гарри Каспарова

Профессор приводит пример "золотой рыбки", когда в обмен на свободу рыбак загадывает три желания. Одно из желаний - вернуть сына с войны, второе - 50 тысяч долларов и третье - возможность наутро загадать еще одно желание.

В тот же вечер в дом рыбака постучали. Сына вернули с войны - в гробу. Рыбак получил страховку в 50 тысяч долларов.

"Замените в этой притче рыбку на ИИ, и все станет ясно - объясняет Боден. - Ах, да, на следующий день рыбак воспользовался третьим желанием и - отменил предыдущие два".

Возможен ли перенос сознания в машину?

Сергей Марков:

"Если говорить о возможности полного переноса сознания, то современными предшественниками такой технологии будущего являются проекты, подобные Blue Brain, направленные на создание действующих электронных аналогов мозга, а также проекты, направленные на создание интерфейсов мозг-машина (BCI) - аппараты для протезирования потерянного зрения, слуха, замены утраченных конечностей, даже частей мозга.

Очень интересным и перспективным направлением является оптогенетика (в принципе для сопряжения мозга и машины можно менять не только машины, но и саму нервную ткань, создавая в ней искусственные фоторецепторы).

Когда будет решен широкий спектр инженерных задач в рамках таких частных проектов, я думаю, что задача переноса сознания станет вполне разрешимой. Уже сейчас мечтатели предлагают гипотетические схемы для осуществления подобного проекта.

Например, Ян Корчмарюк, предложивший в свое время название "сеттлеретика" для направления исследований, связанных с переносом сознания, считает, что наиболее перспективной схемой является использование специализированных нанороботов, внедряемых в нейроны человеческого мозга. Впрочем, для успешного воплощения подобной схемы необходимо решить целый ряд сложных инженерных проблем".

http://www.bbc.com/russian/features-38931070
« Последнее редактирование: 06 Февраля 2025, 21:33:48 от abu_umar_as-sahabi »
Доволен я Аллахом как Господом, Исламом − как религией, Мухаммадом, ﷺ, − как пророком, Каабой − как киблой, Кораном − как руководителем, а мусульманами − как братьями.

Онлайн abu_umar_as-sahabi

  • Ветеран
  • *****
  • Сообщений: 11429
Re: Искусственный интеллект (ИИ)
« Ответ #1 : 06 Февраля 2025, 21:34:18 »
Искусственный интеллект научили создавать искусственный интеллект
18 Октябрь 2017

Американская компания Google научила искусственный интеллект создавать искусственный интеллект, который превышает эффективность аналогичных систем, созданных людьми. Об этом сообщает издание Wired.

Проект AutoML ("автоматизированное машинное обучение") был запущен в мае 2017 года. Цель проекта – создание нейросетей с помощью искусственного интеллекта. В настоящее время созданные таким образом системы определяют показанные изображение в 82 процентах случаев.

В экспериментах с распознанием нескольких объектов на изображении обученный искусственным интеллектом алгоритм успешно выполнил задачу в 43 процентах случаев. Лучший результат в подобных экспериментах среди нейросетей, созданных человеком, – 39 процентов.

В Google заявляют, что проект AutoML призван помочь разработчикам "на первоначальном этапе настройки самообучающихся систем". Однако независимые эксперты, как отмечает Wired, считают, что Google пытается заменить разработчиков искусственным интеллектом.

https://www.svoboda.org/a/28802722.html

===================================


ИИ лучше людей сдал экзамен на чтение и понимание текстов

Автор: Ольга Солодовникова

Дата : 16.01.2018 12:37
Китайские разработчики считают: настало время замещать человеческий труд в сфере обслуживания

В Стэнфордском университете проэкзаменовали искусственный интеллект китайской компании Alibaba Group Holding Ltd.

Информагентство Вloomberg сообщает, что нейронная сеть Alibaba впервые превзошла возможности людей в чтении и понимании текстов. Она предоставила точные ответы на более чем 100 000 вопросов, сформированных на основе 500 статей Википедии. Машина набрала 82,44 баллов, тогда как лучший результат человека — 82,304. Днем позже ИИ от Microsoft добился аналогичного успеха, набрав 82,650 баллов.

Интернет-гигант Alibaba совместно с корпорациями Tencent Holdings Ltd. и Baidu Inc. давно трудятся над ИИ, который сможет качественно обслуживать социальные сети, создавать таргетированную рекламу и оказывать услуги вплоть до помощи в вождении беспилотников. Правительство КНР поддерживает идею на национальном уровне, поставив задачу к 2030 году вывести страну в лидеры в сфере высоких технологий.

Имитируя процесс понимания человеческой речи, нейронная сеть научилась обрабатывать огромные объемы информации, и уже достигла показателей, подходящих для массового внедрения технологии. «Ответы на вопросы типа «что вызывает дождь» теперь можно получить с помощью ИИ с высокой точностью, — говорит Ло Си, главный научный сотрудник института Alibaba, — Технологию нужно постепенно внедрять в сферу обслуживания. ИИ легко может служить компетентным экскурсоводом в музеях или давать профессиональные онлайн-консультации пациентам на медицинских порталах, что беспрецедентным образом сокращает потребность в участии человека».

https://reactor.space/news/ii-luchshe-lyudej-sdal-ekzamen-na-chtenie-i-ponimanie-tekstov/


===================================


За пределом понимания: можно ли доверять искусственному интеллекту?
Марианн Ленис Репортер по вопросам технологий в бизнесе

15 июня 2018

Мы живем в уникальное время в истории человечества, когда искусственный интеллект затрагивает большой спектр вопросов в нашей жизни. Но что если мы на самом деле не знаем, как именно машины принимают решения? Что это значит для человека?

Представьте, что вам отказали в медицинской страховке. А когда вы спрашиваете почему, компания переводит стрелки на свой алгоритм оценки рисков.

Или вы ждете одобрения банка по ипотеке, но вам отказывают, а объяснить причину не могут.

Или представьте, если говорить о более серьезных вещах, что полиция станет задерживать людей по подозрению в подготовке преступления, основываясь лишь на предсказаниях алгоритма.

Искусственный интеллект (ИИ) сейчас внедряют во многие сферы нашей жизни, в том числе в медицинские исследования, в процесс определения диагнозов или приговоров. Алгоритмы машинного обучения управляют автономными автомобилями, обеспечивают национальные системы наблюдения, а также военные системы наводки.

Как говорится в недавнем докладе консалтинговой фирмы PwC, глобальная экономика вырастет на 15,7 трлн долл. к 2030 году благодаря одному лишь ИИ.

Но какой ценой? Алгоритмы глубокого обучения становятся настолько сложными, что даже их создатели не всегда знают, как именно они приходит к тому или иному решению.

Нейросети работают благодаря множеству соединенных между собой "нейронов", которые пропускают через себя огромные объемы информации и выделяют модели среди множества переменных, используя алгоритмы машинного обучения. И, самое главное, они адаптируются в ответ на то, что узнали.

Все это делает уже доступные нам сервисы лучше, начиная с более точных прогнозов погоды и заканчивая усовершенствованными методами определения стадий рака.

Однако Роди Дейвис, директор по вопросам политики и программ Фонда помощи благотворительным организациям (Charities Aid Foundation), считает, что когда такие системы используются в системах доступа, например, к коммунальным услугам или подсчетам голосов, это порождает трудности.

Дэвид Штерн, менеджер по количественным исследованиям в технологической компании G-Research, которая использует машинное обучение для того, чтобы предсказывать цены на финансовых рынках, предостерегает, что молниеносный прогресс в исследованиях ИИ в последние годы связан был прежде всего с так называемыми методами черного ящика.

"Процесс обучения в этом крайне популярном сейчас подходе определяет настройки миллионов внутренних параметров, которые взаимодействуют сложными способами и которые очень трудно переписать и объяснить".

Другой тренд в роботизации - это глубокое обучение с подкреплением.

В его случае разработчик просто определяет поведенческие цели системы, а она автоматически учится, непосредственно взаимодействуя в окружающей средой, объясняет Штерн.

"Это порождает систему, разобраться в которой становится еще труднее", - говорит он.

Специалисты пытаются разработать методы понимания и контроля этих алгоритмы. Например, Управление перспективных исследовательских проектов Министерства обороны США ведет проект Explainable AI ("Объяснимый ИИ").

А некоммерческая исследовательская компания OpenAI разрабатывает "путь к общему безопасному искусственному интеллекту".

Это звучит вполне разумно, но одно из преимуществ ИИ как раз в том, что он может делать то, чего не может человеческий мозг. И с этой точки зрения благодаря подобным проектам мы рискуем застопорить развитие ИИ.

Адриан Веллер, программный директор по искусственному интеллекту в Институте Алана Тьюринга, предполагает, что знание того, как именно работает ИИ, нужно только в случае, если он принимает критически важные решения. Другие соображения могут быть важнее прозрачности программы.

"Если бы мы могли быть уверены в том, что система работает надежно и безопасно и в ней исключена дискриминация! В некоторых случаях эти вопросы важнее, чем то, понимаем ли мы суть функционирования системы", - говорит он.

Что касается беспилотных машин или медицинских диагнозов: если автомобиль будет более безопасным и сможет спасать людям жизни, это будет гораздо важнее, чем то, как именно он работает, говорит Веллер.

"Говоря о медицинских диагнозах, если система точна в среднем в 95% случаев, это хорошая новость, - утверждает ученый. - Хотя я все равно хотел бы знать, насколько она точна по отношению лично ко мне, и ее прозрачность мне бы в этом помогла".

"Но если бы у нас был какой-то другой способ быть уверенными, что алгоритм действительно точен в моем случае, тогда я бы меньше беспокоиться о его интерпретируемости", - добавляет Веллер.

Но в случаях, когда ИИ выносит приговор и определяет то, сколько человеку сидеть в тюрьме, важно иметь представление о процессе принятия решений, замечает Веллер.

"Если алгоритм рекомендовал заточить меня на шесть лет, я бы хотел получить этому объяснение, понять, насколько приемлемому процессу следовал ИИ, и иметь возможность оспорить его решение, если я с ним не согласен", - замечает он.

"Я согласен с мнением, что мы должны требовать от компаний разъяснять действия алгоритма, особенно когда у нас есть подозрение, что за ним стоит человек", - говорит Веллер.

Без этих гарантий есть риск, что люди могут подвергнуться дискриминации, не зная почему, и окажутся на обочине.

Технологии и бизнес

Многие даже не знают, что алгоритмы искусственного интеллекта стояли за решением, которое на них повлияло. И это противоречит закону, говорит Марк Дим, партнер юридической фирмы Cooley.

"Как вообще можно ожидать конкретного решения, основанного на машинном обучении, если вы не знаете точно, как его принял алгоритм из "черного ящика"? - говорит он.

Принятые Евросоюзом Общие правила защиты данных Евросоюза закрепили право знать, был ли автоматизированный процесс использован для принятия решения.

"Концепция автоматизированного принятия решений в Правилах заключается в том, что вы не должны иметь возможность принять решение, затрагивающее фундаментальные права субъекта данных, лишь на основании действия алгоритма", - объясняет Марк Дим.

У нас есть право на объяснение. Но что, если компании не могут давать таких объяснений? Это серая зона, которая должна быть протестирована в судах.

Будем ли мы счастливо работать вместе со сверхинтеллектуальными машинами и принимать полезные решения, не понимая стоящих на ними процессов?

Или же мы станем рабами автоматизации и заплатим за нее своими правами и человеческой свободой?

"Нам вполне комфортно сидеть в алюминиевой трубе со стенками толщиной 1 мм, рассекающей воздух на высоте 30 000 футов, толком не понимая того, как она работает и полагаясь лишь на статистику безопасности и правила полетов", - говорит Дэвид Штерн, имея в виду современный авиалайнер.

"Я уверен, что до тех пор, пока существует надзор и есть достаточные доказательства безопасности, мы будем спокойно сидеть в машине, управляемой машиной, или доверять компьютерному анализу состояния нашего здоровья", - заключает он.

https://www.bbc.com/russian/features-44499128


==================================


Искусственный интеллект взял еще один рубеж. Теперь он может спорить с человеком

19 июня 2018

Семь лет назад суперкомпьютер IBM победил игроков американской интеллектуральной телевикторины Jeopardy. А сейчас искусственный интеллект доказал на практике, что может участвовать в дебатах - распознавать речь человека, осмысливать ее и аргументированно отвечать.

IBM устроила в Сан-Франциско презентацию нового проекта - компьютера Debater, способного участвовать в дебатах. Машина слушает собеседника и спорит с ним.

При формировании ответов компьютер пользуется данными из базы миллионов документов - газетных статей и научных журналов. Дебаты ведутся без подготовки на случайные темы.

Судьи решили, что аргументы компьютера были более полными, в то время как у человека лучше получилось презентовать ответы.

Одним из недостатков машины были повторения одного и того же аргумента, но разными словами. Также компьютер иногда выдавал странно сформулированные фразы.

Правильные решения

Одним из оппонентов компьютера была Ноа Овадия - чемпион израильского турнира по дебатам 2016 года. Она начала работать с IBM несколько месяцев назад.

Овадия сказала Би-би-си, что обучение компьютера навыкам аргументации сыграет большую роль для принятия правильных решений, в том числе при голосовании на выборах.

Глава отдела исследований IBM Арвинд Кришна отмечает, что обученная навыкам аргументации машина не сможет принять решение за человека. Но такой компьютер позволит провести содержательную дискуссию, считает он.

Эксперты опасаются, что машины, имеющие доступ к большим объемам информации, при построении ответа могут использовать предвзятые аргументы.

В IBM при этом придерживаются мнения, что компьютер в любом случае будет менее предвзятым, чем любой человек.
Как построить аргумент

Обучение компьютеров искусству спора обсуждается в научном сообществе уже несколько лет.

Сейчас машины превосходят человека во многих вещах, например, в обработке данных, в умении просчитывать ходы в стратегичесикх играх.

Но компьютерам пока не под силу учитывать нюансы речевых оборотов, понимать намеки и шутить - все эти качества пока позволяют человеку выглядеть убедительнее в дебатах с машинами.

Ученые, которые занимаются этой проблемой, пытаются научить компьютеры оспаривать доказательства и искать альтернативные точки зрения. Для этого они исследуют труды по философии, риторике, праву.

Многие ученые считают, что в ближайшем будущем машины навряд ли смогут полностью заменить человека в принятии важных решений.

"Одно дело - искать информацию в интернете о том, как насилие в видеоиграх влияет на психическое здоровье детей, и совсем другое - создать систему, которая бы автоматически собирала аргументы "за" и "против" допущения подобного насилия", - писал в октябре 2017 года профессор Крис Рид из Университета Данди.

https://www.bbc.com/russian/features-44531977


===================================

Бунт искусственного интеллекта вполне реален
9 февраля 2019

Уже сейчас искусственный интеллект (ИИ) способен на многое - он играет в шахматы, управляет автомобилями и диагностирует заболевания. Всем известно о программе Google DeepMind, которая легко обыгрывает человека в го, об экспериментах компании Tesla с беспилотными автомобилями, о суперкомпьютере IBM под названием Watson.

Эти системы относятся к классу ограниченного искусственного интеллекта, который призван решать специальные задачи. Они довольно быстро совершенствуются и используются всё шире. Хотя их внедрение сталкивается с проблемами - например, беспилотные автомобили появятся на дорогах не так скоро, как мы думали еще недавно.

На подходе - системы ИИ общего типа, которые будут способны учиться, решать задачи, модифицировать свое поведение и саморазвиваться. Они смогут выполнять даже те задачи, которые выходят за рамки задуманного их проектировщиками.

Самое главное, что темп их развития может постоянно ускоряться - и в какой-то момент они могут стать умнее человека, породив супер-ИИ.

Пока что подобные системы ИИ не существуют в полном функциональном виде. Однако их компоненты постоянно разрабатываются и, по прогнозам, они начнут появляться уже в начале 2030-х гг.

Мало кто сомневается в том, что они будут созданы. Задачи, которые будут перед ними поставлены, также очевидны - лечение рака и дегенеративных заболеваний, борьба с изменениями климата, повышение эффективности сельского хозяйства, начало новой научно-технической революции.

Вопрос в том, сможет ли человечество контролировать эти машины. Главная опасность состоит в том, считает профессор MIT Макс Тегмарк, что такие системы смогут без вмешательства человека определять наиболее эффективные пути решения задач и даже создавать свои собственные цели, не учитывая при этом этических принципов, на которых построена человеческая цивилизация.

Примеры такого развития событий:

Система ИИ общего типа, перед которой поставлена задача предотвращения эпидемии ВИЧ, может решить убить всех носителей вируса;
Военный дрон, оснащенный такой системой ИИ, может прийти к выводу, что для надежной нейтрализации выбранной цели необходимо уничтожить всю деревню, где эта цель расположена;
Система ИИ, которой поручено найти способ решения проблемы изменения климата на Земле, может прийти к выводу, что единственным выходом является полное уничтожение человечества.
Многие катастрофические сценарии развития систем супер-ИИ приводят к исчезновению человека как вида. Кроме того, социологи опасаются и другого рода кризисов - например, вытеснение человека из сферы активного физического труда, дестабилизация государственных структур, введение мер по всеобщему наблюдению и контролю.

Уже сейчас перед разработчиками новых систем ИИ стоит неотложная задача создания новых методов контроля, которые смогут обеспечить безопасность таких систем в долгосрочном плане.

https://www.bbc.com/russian/features-47172119



================================


Сговор роботов: сможет ли искусственный интеллект задирать цены в магазинах?
Алексей Калмыков Би-би-си

23 февраля 2019



Искусственный интеллект стремительно проникает в повседневную жизнь: рассчитывает маршруты, переводит с иностранных языков, подбирает нам фильмы, книги и одежду. Самообучающиеся алгоритмы приводят к простым целям все более сложным путем, и в этом кроется угроза, опасаются чиновники и эксперты.

Что если эта простая цель - не облегчить жизнь человеку, а выжать из него максимум прибыли? И что если машины, которым продавец поставил такую цель, в процессе ее достижения вступят в сговор и начнут массово обсчитывать потребителей? Как отследить и пресечь это?

Роботы уже вовсю используются в торговле. Алгоритмы автоматически устанавливают цены, оценивают спрос и предложение, определяют скидки и рекомендации покупателям. Их эволюция чревата двумя серьезными проблемами.

"С антимонопольной точки зрения опасность заключается в том, что алгоритмы репрайсинга потенциально способны каждый по отдельности прийти к одному выводу: чтобы обеспечить максимальную прибыль, нужно избегать ценовых войн", - предупреждают три профессора экономики из Болонского университета.

"То есть, они могут вступить в картельный сговор, даже если перед ними не ставили такую задачу и даже если они не общались друг с другом. Это проблема", - говорится в их февральской публикации.


Алгоритмами заинтересовались те, кому общество делегировало защиту потребителей от монополий. До сих пор вся их практика была построена на работе с людьми и корпорациями. Роботы - совсем другая история.

"Алгоритмы сделали много полезного для защиты прав потребителей и развития конкуренции - они сократили издержки поставщиков, улучшили обслуживание и доступность товара. Однако мы должны разобраться, может ли использование алгоритмов нанести вред потребителям в дальнейшем, и если да, то когда и как", - обратилось к проблеме антимонопольное ведомство Великобритании (CMA).
Почему сейчас?

Времена меняются. Цифровой след, который оставляют люди в интернет-магазинах, социальных сетях и браузерах буквально на глазах превращается в лавину информации и открывает роботам новые возможности для сложных стратегий ценообразования, включая персонифицированное.

Чем больше машина знает о нас, тем проще ей определить, какую максимальную цену мы готовы заплатить за платье, урок итальянского или поход в бассейн.

"90% всех цифровых данных в мире было создано в последние два года, - говорится в рабочей записке CMA, опубликованной минувшей осенью. - С развитием технологий больших данных (Big Data) бизнес все активнее покупает услуги анализа этой информации. Мировой оборот в этой сфере, как ожидается, достигнет 200 млрд долларов к 2020 году".

   
Алгоритмы давно использовались в торговле, но повсеместное проникновение машин в сферу потребления стало возможно только сейчас, и связано это не с развитием компьютеров и программ, а как раз со взрывным ростом объема, доступности и скорости сбора данных о потребителях, их привычках, доходах и поведении, полагает профессор Израильского технологического института Авигдор Гал.

Он в числе других представлял свои соображения к дискуссии в ОЭСР - клубе самых богатых стран мира. Антимонопольная комиссия этой организации занялась проблемой и признала, что современные методы защиты потребителей и конкуренции вряд ли будут достаточными для регулирования рынка в новую эру машин.

Однако и новые ограничения способны навредить прогрессу и затормозить технологическое развитие, поэтому если их и вводить, то осторожно и постепенно.

Как договариваются роботы


Жизнь антимонопольным органам осложняет тот факт, что машины способны вступить в картельный сговор, даже не общаясь между собой.

Продавец ставит им цель, но путь к ней не указывает. Они сами ищут способ выполнить задачу, будь то продать новинку подороже или распродать запасы побыстрее. С учетом того, что машины давно обыгрывают людей в шахматы и го, путь к цели может оказаться самым изощренным.

Три профессора экономики из Болонского университета ставили опыты: запускали искусственный интеллект в классическую модель картельного сговора. Ученые меняли условия эксперимента, но роботы настырно учились только одному.

"Даже самые примитивные алгоритмы ценообразования методично оттачивают сложные стратегии сговора. И больше всего беспокоит то, что они не оставляют никаких следов. Они учатся договариваться методом проб и ошибок, не общаясь между собой, на новых для себя рынках и даже если им не ставили задачу создать картель", - пишут исследователи.

И это еще до того, как в матрице появляется еще пара неприятных осложнений. Первое - общая школа алгоритмов, второе - общая база данных о покупателях.

   

В первом случае алгоритмы, как в том эксперименте, обучаются в одном и том же месте, прежде чем вступить в игру. Многие мелкие продавцы не вкладываются в разработки, а покупают готовые решения у крупных игроков. Таким программам проще договориться, не разговаривая. И эта особенность машин уникальна: многократные эксперименты доказали неспособность людей создавать даже примитивные картели без общения между собой.

Во втором случае машины при анализе данных используют одну и ту же базу информации о потенциальных потребителях. А убийственная комбинация этих двух факторов - это когда и алгоритм, и информация принадлежат очень крупному сборщику личных данных, который одновременно еще и крупнейший продавец товаров или услуг.

Тогда машины в теории смогут определить покупательную способность каждого и извлечь максимальную выгоду через персонифицированное ценообразование.

Возможно, они уже это делают?

Восстание машин

Нет, говорят регуляторы. Они давно ищут, но пока не могут найти признаков того, что искусственный интеллект подрывает конкуренцию и задирает цены.


В прошлом году Еврокомиссия провела исследование в восьми странах ЕС и не нашла ничего. Годом ранее к такому же выводу пришло британское антимонопольное ведомство.

А до этого два года подряд австрийцы проводили свой эксперимент. В 2016 году они отслеживали цены 36 различных товаров и услуг (от обуви до гостиниц и перелетов) на 28 девайсах (компьютерах, телефонах и планшетах) в течение пяти дней в девяти областных центрах Австрии и немецком Дюссельдорфе. И не нашли отклонений.

Через год они повторили эксперимент на трех десятках позициях крупных онлайн-магазинов (Amazon, Lufthansa, AirBerlin, Austrian Airline, Opodo, booking.com и Heine). На этот раз цены немного отличались, но никакой закономерности вывести не удалось.

Нет примеров пока и в судебной практике - за редким исключением. В 2015 году американский регулятор выиграл антимонопольное разбирательство, доказав преднамеренное использование компьютерной программы для установления единой цены на постеры в разных онлайн-магазинах. Продавцу пришлось заплатить штраф в 20 тысяч долларов.

   
И в ближайшее время ждать восстания машин не приходится, полагает британский антимонопольный орган, поскольку продавцы столкнутся с целым рядом сложностей - от прозрачности ценообразования до права на перепродажу.

"Эти сложности преодолимы, по крайней мере в теории, если компании задействуют достаточно продвинутые алгоритмы и базы данных, а также будут готовы целенаправленно договариваться и делиться информацией. Пойдут ли они на это - эмпирический вопрос о качестве и доступности данных и алгоритмов", - пришли к выводу борцы с монополиями.

Есть и еще одна важная преграда на пути манипуляторов - сами потребители. Если люди начнут подозревать, что их дурят сложные алгоритмы, пострадают продавцы.

"Если потребители теряют веру в то, что им предлагают хорошую и справедливую цену, они уходят с такого рынка или резко сворачивают свою активность на нем. Это проблема для индивидуального ценообразования, а подозрения, что алгоритмы облегчают ценовой сговор, способны еще больше подорвать потребительское доверие", - предупредило британское антимонопольное ведомство.

https://www.bbc.com/russian/features-47286039


=================================


Почему вы неправильно представляете себе робоапокалипсис
3 ноября 2019

Страх перед искусственным интеллектом давно укоренился в массовой культуре. Лучшие умы человечества, от Стивена Хокинга до Илона Маска, говорили об экзистенциальной угрозе цифрового разума человечеству.

Профессор Калифорнийского университета в Беркли Стюарт Рассел тоже о ней говорит, но в его видении будущего нет злых роботов, восстающих против господства людей.

По версии Рассела, машины в какой-то момент просто станут настолько эффективными, что уничтожат нас, выполняя задания, которые мы же им и дали.

Рассел - эксперт по машинному обучению и автор книги "Совместимость с человеком: ИИ и проблема контроля" ( "Human Compatible: AI and the Problem of Control").

"Традиционный голливудский сюжет: машины спонтанным образом обретут сознание, а потом решат, что ненавидят людей и захотят всех убить", - замечает профессор Рассел.

Но это, по его мнению, неправильное видение робоапокалипсиса, ведь у машин нет человеческих эмоций.

"Нам нужно беспокоиться не о самосознании злых машин, а о компетентности машин, которые выполняют поставленные нами задачи", - убежден ученый.

"Слишком компетентны"
В интервью программе BBC Today профессор Рассел описал гипотетическую ситуацию, в которой существованию человечества может угрожать искусственный интеллект.

Представьте, что существует сверхмощный искусственный интеллект, который может контролировать климат на планете. Ему ставят задачу вернуть уровни углекислого газа в атмосфере на доиндустриальный уровень.

"Система сочтет, что самый эффективный способ это сделать - уничтожить людей. Это же они производят углекислый газ", - говорит профессор.

"Это можно обойти, например, поставив ей условие не избавляться от людей. Что тогда сделает система? Она будет делать так, чтобы рождалось все меньше и меньше детей, пока люди не исчезнут вовсе".

Это пример того, к чему может привести работа искусственного интеллекта по непродуманным инструкциям человека.

Сверхинтеллект
Существующие сегодня системы ИИ имеют узко направленное применение. Они созданы для решения четко обозначенных проблем в какой-то одной сфере, говорят ученые Центра изучения экзистенциальных рисков Кембриджского университета.

Триумфальным моментом для этой философии ИИ была победа компьютера "Дип Блю" над действующим чемпионом мира по шахматам Гарри Каспаровым в 1997 году.

Но "Дип Блю" был создан исключительно для игры в шахматы. В шашки он проиграл бы и пятикласснику.

Последние достижения в сфере искусственного интеллекта принесли нам совсем другие программы.

Например, программа AlphaGo Zero обучилась игре в го самостоятельно, не используя данные о прошлых играх, сыгранных людьми, и всего за три дня игры с собой вышла на недостижимый для обычного человека уровень.

При создании AlphaGo Zero применялись алгоритмы глубинного обучения. Это значит, что для разработки программы потребовалось сравнительно мало человеческой работы.

При этом AlphaGo Zero умеет хорошо играть и в шахматы, и в сёги.

Напомним, что программа полностью самообучаема. У кого-то это может вызвать опасения.

"По мере того, как ИИ становится мощнее и универсальней, появляется риск, что он станет сверхразумным, то есть превзойдет человека во многих или во всех сферах", - говорят в Центре изучения экзистенциальных рисков.

"Мы не знаем, что хотим"
Профессор Рассел считает, что просто ставить перед ИИ предельно конкретные задачи - это не выход из положения, потому что люди сами не в состоянии их достаточно хорошо формулировать.

"Мы не понимаем, что нам что-то не нравится, пока это не происходит", - говорит он.

"Нам нужно изменить сам базовый подход к созданию ИИ-систем", - добавляет профессор. Он считает, что давать роботам задание, которое они затем выполняют - вообще в корне не верно.

"Система должна понимать, что цель ей непонятна. - говорит он. - Когда создаются такие системы, они действительно зависят от человека. Они начинают спрашивать разрешения перед тем, как что-то сделать, потому что не уверены, хотите ли вы этого".

И что самое важное, говорит профессор, они не будут сопротивляться, если вы решите их выключить, потому что они созданы таким образом, чтобы не делать того, что вам не нравится.

Лампа Аладдина
ИИ сегодня создают так, как будто это джин из лампы, говорит профессор Рассел. Вы трете лампу и говорите: "Хочу, чтобы произошло то-то и то-то".

И если искусственный интеллект достаточно мощный, то он сделает именно то, что вы попросите.

"Проблема с джином в том, что третье желание всегда - отменить два первых, потому что человек неправильно их сформулировал".

"Машина, которая преследует неверную цель, становится де факто врагом человечества, и этот враг гораздо сильнее нас", - заключает ученый.

https://www.bbc.com/russian/features-50232818
Доволен я Аллахом как Господом, Исламом − как религией, Мухаммадом, ﷺ, − как пророком, Каабой − как киблой, Кораном − как руководителем, а мусульманами − как братьями.

Онлайн abu_umar_as-sahabi

  • Ветеран
  • *****
  • Сообщений: 11429
Re: Искусственный интеллект (ИИ)
« Ответ #2 : 06 Февраля 2025, 21:34:36 »
Выявлен ранее неизвестный предок человека. Его открыл искусственный интеллект
Николай Воронин
Корреспондент по вопросам науки и технологий
18 января 2019

Десятки тысяч лет назад на земле жили неизвестные науке человекоподобные приматы, которые активно скрещивались с известными нам предками человека - такое сенсационное открытие сделал искусственный интеллект, после того как международная команда ученых из Германии, Испании и Финляндии дала компьютеру подробно проанализировать геном нескольких выходцев из азиатского региона.

Судя по структуре ДНК, давно вымерший примат был помесью неандертальцев и денисовских людей, который скрещивался с нашими предками, вышедшими из Африки, на территории Азии.

Это открытие объясняет останки, найденные прошлым летом в Денисовой пещере и озадачившие ученых: мать загадочного примата была неандертальцем, а отец - денисовским человеком.

Теперь понятно, что это не уникальный случай межвидового скрещивания, а распространенное явление, оставившее отпечаток в ДНК азиатов.

А это значит, что у древних людей остались потомки от неизвестного до сих пор ученым вида приматов.

Третий предок
Один из основных принципов, позволяющих биологам провести границу между видами, прост: представители близких видов могут скрещиваться - но, как правило, не способны произвести способное к размножению потомство. Известный пример - мул, гибрид лошади и осла.

Однако в случае с вымершими видами дело обстоит несколько сложнее. Например, ДНК человека со всей очевидностью доказывает, что наши вышедшие из Африки предки неоднократно скрещивались и с неандертальцами, и с денисовцами, которые населяли Евразию более 40 тысяч лет назад.

Теперь созданный учеными алгоритм обнаружил еще один родственный вид приматов, оставивший след в геноме выходцев из Азии.

"Около 80 тысяч лет назад случился так называемый исход из Африки, когда часть предков человека, среди которых уже были и первые современные люди, покинули африканский континент и переселились на другие континенты, откуда и произошли все современные популяции", - объясняет один из авторов исследования Хауме Бертранпетит из Института эволюционной биологии.

"Мы знаем, что с тех пор современные люди скрещивались как с неандертальцами (на всех континентах, кроме Африки), так и с денисовскими людьми (в Океании и, возможно, Юго-Восточной Азии). Однако сколько-нибудь убедительных доказательств скрещиваний с третьим вымершим видом приматов до сегодняшнего дня не было", - объясняет он суть открытия.

Существование неизвестного "третьего предка" было предложено в качестве теории, объясняющей происхождение некоторых фрагментов человеческой ДНК. Но провести конкретные параллели между участками генома и демографией древних родственников человека удалось лишь при помощи глубинного компьютерного анализа с использованием самообучающегося алгоритма.

https://www.bbc.com/russian/news-46897465


===================================



Искусственный интеллект: враг или помощник?
10 января 2020


https://doc.rt.com/filmy/iskusstvennij-intellekt-vrag-ili-pomoshhnik/

================================



Что мешает Германии стать лидером в области искусственного интеллекта
09.02.2020

В мире уже вовсю идет борьба за лидерство в области технологий искусственного интеллекта. Пока США и Китай действуют, Германия рискует оказаться на вторых ролях. Хотя у нее есть свой козырь.

Не секрет, что все эти гаджеты собирают наши личные данные, которые оседают в руках гигантов IТ-индустрии. Google, Apple, Amazon, Alibaba или "Яндекс" анализируют собранную информацию  с помощью технологии искусственного интеллекта (ИИ) - и применяют ее в собственных целях. Так, в США крупные IТ-концерны и коммерческие платформы используют персональные данные  в первую очередь для увеличения продаж и таргетированной рекламы. В Китае к коммерческим целям примешиваются и политические. Власти страны постепенно создают базу данных населения, адаптированную к системе распознавания лиц. Это позволяет следить за гражданами, создавать их социальный рейтинг и контролировать их действия.

Личные данные как камень преткновения?

Искусственный интеллект как инструмент тотального контроля на службе политики и коммерции? "Этот путь - не для нас. Европа должна стать настоящей альтернативой США и Китаю и развивать технологию ИИ на базе европейских ценностей", - говорит немецкий депутат от партии "зеленых" Дитер Янецек (Dieter Janecek). Вместе с представителями других парламентских фракций он входит в специальную комиссию бундестага "Искусственный интеллект", задача которой - "изучить и шансы и вызовы новой технологии и разработать рекомендации по ее использованию". Полный отчет комиссии должен быть представлен к осени 2020 года, он будет охватывать такие сферы как здравоохранение, занятость, бизнес, транспорт, работа госучреждений и СМИ. 

В комиссии нет единства относительно того, как совместить право граждан на тайну персональных данных и использование искусственного интеллекта. "Если постоянно оглядываться на потенциальные риски, связанные с задействованием ИИ, мы никогда не совершим прорыва в этой области и навсегда останемся на вторых ролях", - говорит Ронья Кеммер (Ronja Kemmer), депутат бундестага от Христианско-демократического союза (ХДС) - одной из входящих в правящую коалицию партий.

"В Германии склонны представлять сбор и использование личных данных, как нечто заведомо ужасное, но ведь если, к примеру, это приведет к тому, что в больницах уменьшится число смертей, это будет положительный результат", - говорит депутат от правопопулистской "Альтернативы для Германии" (АдГ) Йоана Котар (Joana Kotar). Она даже требует  внести поправки в Общий регламент защиты персональных данных  (GDPR) - законодательный акт Европейского Союза, который регулирует защиту персональных данных граждан ЕС.

Более умеренные члены комиссии заявляют о том, что "искусственный интеллект должен приносить пользу гражданам, но не должен их контролировать; должен способствовать общественному прогрессу - но в разумных пределах". Впрочем, пояснить, что значит "в разумных пределах", - они пока затрудняются.

Борьба США и Китая за лидерство в сфере ИИ

Пока в Германии готовят отчет и пытаются определить законодательные рамки, США, Китай и другие страны уже вовсю действуют. Еще в 2016 году во время президентства Барака Обамы в США была принята первая государственная стратегия по развитию искусственного интеллекта. Ежегодные федеральные расходы на исследования ИИ составляют в пересчете 1,3 млрд евро.

США лидируют по числу научно-исследовательских публикаций на тему искусственного интеллекта, каждый год в стране защищается порядка 3000 докторских диссертаций и открывается порядка 1400 стартапов в сфере ИИ. У страны - более чем 40-летний опыт сотрудничества между университетами, госструктурами и предприятиями. Семь из десяти ведущих мировых технологических концернов расположены в США. "Благодаря комбинации этих факторов США являются бесспорным лидером в развитии искусственного интеллекта", - подытоживают авторы одного из исследований немецкого Фонда имени Конрада Аденауэра.

Это так. И все же в борьбе за превосходство в сфере индустрии ИИ на пятки США все больше наступает Китай. В планах официального Пекина - к 2025 году перегнать США в развитии искусственного интеллекта, а к 2030 году - стать мировым лидером в этой области. Китай выделяет значительные ресурсы на поддержку своего национального плана по искусственному интеллекту. На развитие индустрии по проектированию чипов ИИ власти намерены выделить 16,4 млрд евро. Третий по величине город Китая Тяньцзинь выделил фонд специально на цели развития искусственного интеллекта. Его объем - 12,8 млрд евро.

На фоне этих цифр и амбиций становится ясно, что Германия катастрофически отстает. В конце 2018 года немецкое правительство разработало стратегию по развитию сферы искусственного интеллекта до 2025 года и запланировало для этих целей бюджет в 3 млрд евро. Однако в конкретных планах распределения средств предусмотрена лишь сумма в 1 млрд евро к 2023 году. В настоящее время ведутся споры о том, откуда взять недостающие 2 млрд. Не лучше обстоят дела и с планами по созданию новых кафедр и назначению новых профессоров, специализирующихся в сфере ИИ. Из запланированных 100 профессорских вакансий заполненными оказались лишь две.

ИИ в сфере промышленности - козырь Германии

О том, что Германия рискует упустить шанс укрепить свои позиции в области технологий ИИ, предупреждает и головная организация германского бизнеса - Федеральное объединение немецкой промышленности (BDI). В конце 2019 года организация опубликовала документ, в котором изложила свои рекомендации относительно немецкой и европейской стратегий по развитию ИИ. Главный призыв: свои исследования в сфере искусственного интеллекта Германии следует сфокусировать в той области, в которой она и так является мировым лидером. А именно - в области промышленных технических разработок: "умной" автоматизации, сенсорной техники, робототехники.

В качестве примера Федеральное объединение немецкой промышленности приводит так называемые гибридные системы искусственного интеллекта - те, которые комбинируют экспертные знания человека и адаптивные методы искусственного интеллекта, и которым не требуются большие объемы данных.

Американские фирмы лидируют в разработках программного обеспечения на основе ИИ, а также в использовании технологий искусственного интеллекта в области коммерции. Китай силен во внедрении ИИ в структуры национальной безопасности и онлайн-торговли. "Германия и Европа не смогут выстоять в гонке за лидерство в сфере ИИ, если будут делать ставку на те же направления", - делают вывод авторы отчета Федерального объединения немецкой промышленности.

https://p.dw.com/p/3XLXR



=====================================

Ускорит ли пандемия коронавируса повсеместное появление роботов?
Зои Томас
Би-би-си
20 апреля 2020

Пока в мире свирепствует пандемия, многие, кажется, забыли о другой угрозе привычному человеческому укладу жизни - повсеместному появлению роботов.

Как говорят аналитики, роботы заменят людей во многих профессиях, и вспышка коронавируса лишь ускорит этот процесс.

"Люди обычно говорят, что им нравится общаться с живым человеком, но из-за Covid-19 этот аспект поменяется", - считает футурист Мартин Форд, который исследует тему интеграции роботов в экономику в ближайшие десятилетия.

"Covid-19 изменит предпочтения потребителей и откроет новые возможности для автоматизации", - говорит он.

Компании, как крупные, так и небольшие, расширяют сферы применения роботов в условиях социального дистанцирования для сокращения количества персонала, которому необходимо приезжать на работу. Также роботов используют для выполнения функций, которые сотрудники не могут выполнять из дома.

В Южной Корее роботов используют для измерения температуры у людей, а также для раздачи антисептических средств для рук.

Эксперты по вопросам здравоохранения полагают, что некоторые меры социального дистанцирования останутся в силе и в 2021 году, поэтому спрос на роботов-рабочих может увеличиться.


Датская компания UVD Robots производит роботов, в которых используется технология ультрафиолетовой дезинфекции


Выручит робот-уборщик
Из-за пандемии резко вырос спрос на чистящие и антисептические товары.

Датская компания UVD Robots производит роботов, в которых используется технология ультрафиолетовой дезинфекции. Она отправила сотни машин в больницы Китая и Европы.

Продуктовые магазины и рестораны теперь чаще используют роботов-курьеров для доставки.

По мнению экспертов, когда компании начнут возвращаться к деятельности, эта технология станет еще более востребованной - вероятно, в скором времени уборкой школ и офисов будут заниматься машины.

"Потребители теперь больше переживают за свою безопасность и за безопасность и здоровье работников, - сказала автор исследования "Потребитель будущего" Блэйк Морган. - Благодаря переходу к автоматизации все будут здоровы, и клиенты вознаградят за это компании".

Но есть и ограничения.

По словам Морган, автоматизированные кассы в магазинах сокращают взаимодействие людей, но, как иногда случается, электронные системы могут работать с перебоями или ломаются, из-за чего покупатели их избегают и платят за покупки кассирам-людям.

Помощь с социальным дистанцированием
Еще одной сферой применения роботов, скорее всего, станет индустрия общественного питания.

В ресторанах быстрого питания, вроде McDonald's, начали проводить испытания роботов в качестве поваров и кассиров.

В складских комплексах,таких компаний, как, например, Amazon и Walmart, роботов использовали еще до начала пандемии. После вспышки коронавируса обе фирмы решили найти им применение в сортировке, отправке и упаковке посылок.


Amazon уже использует тысячи роботов на своих складах
Это может уменьшить количество жалоб работников складов, которые утверждают, что в нынешних условиях у них нет возможности соблюдать необходимую дистанцию от своих коллег. Как пишут некоторые эксперты в области технологий, из-за нововведений некоторые из них могут лишиться работы.

Когда компания инвестирует в замену работника роботом, вряд ли она затем захочет его вернуть на прежнее место. Создание роботов и их интеграция в процесс стоят дорого, но затем их эксплуатация обходится дешевле найма работника.

По мнению футуриста Мартина Форда, использование роботов после пандемии будет выгодно с точки зрения маркетинга.

"Люди охотнее пойдут в место, где меньше работников и больше машин, потому что им будет казаться, что там меньше рисков", - сказал он.

Искусственный интеллект почти как человеческий
А как быть с должностями, где требуется участие человека - например, в преподавании уроков или инструктаже?

Сейчас идет создание систем искусственного интеллекта, которые смогут заменить учителей, фитнес-инструкторов и финансовых консультантов.

Расширяют области применения искусственного интеллекта и крупные технологические компании.

Facebook и Google прибегают к его помощи для модерации неподобающих публикаций, потому что работающие из дома модераторы-люди могут проверять не все.

Некоторые скептики полагают, что люди справляются с этими видами деятельности лучше роботов. Но после отмены карантинных мер многие люди привыкнут общаться дистанционно. Инструктору или консультанту на экране необязательно быть живой личностью, ему достаточно думать и поступать, как человеку.

В 2017 году консалтинговая компания McKinsey составила отчет, в котором предположила, что к 2030 году треть всех рабочих мест в США перейдет к роботам или будет автоматизирована. Но, когда происходит какое-то глобальное явление вроде пандемии, сроки реализации таких проектов могут сдвинуться.

Эксперты сходятся во мнении, что именно от человека зависит, каким образом он интегрирует эту технологию.


https://www.bbc.com/russian/features-52320145

========================================


Илон Маск назвал ИИ «основной угрозой» для человечества и заявил о необходимости его регулирования
17 июл 2017

Глава компаний Tesla и SpaceX Элон Маск, выступая перед губернаторами США, назвал искусственный интеллект «основной угрозой» для человечества. Предприниматель заявил о необходимости регулирования развития ИИ, передаёт The Wall Street Journal.

Маск предупредил, что технологии ИИ могут стать причиной безработицы и даже войны. Он предложил губернаторам американских штатов создать орган, который займётся сбором информации о быстро развивающемся ИИ для последующего регулирования этой области. По словам предпринимателя, сейчас правительство «не имеет представления» об угрозах, которые искусственный интеллект может представлять для цивилизации.

«Пока люди не видят роботов, убивающих людей на улицах, они не знают, как реагировать, потому что такой сценарий кажется нереалистичным», — цитирует Маска издание Recode. Предприниматель утверждает, что регулирование развития ИИ должно опережать разработки, иначе «будет уже слишком поздно».

Маск отметил, что введение контроля может вызвать недовольство среди компаний, развивающих ИИ. Они могут заявить об ущербе инновациям, но вряд ли регулирующие нормы заставят их уйти из США, сказал предприниматель.

Глава SpaceX также признался, что его желание колонизировать Марс связано в том числе с угрозой порабощения Земли искусственным интеллектом.

Губернаторы попросили Маска сформулировать, что именно необходимо регулировать и как. «Первым делом нужно постараться узнать как можно больше, чтобы понять суть проблемы», — ответил предприниматель.

Ранее Маск уже заявлял об опасности развития искусственного интеллекта для человечества. В феврале 2017 года он говорил, что развитие «глубокого ИИ», который окажется «умнее самого умного человека на планете», может привести к замене людей на искусственные алгоритмы.

В 2015 году Маск вместе с сооснователем PayPal Питером Тилем, партнёром Y Combinator Сэмом Альтманом и другими инвесторами основали некоммерческую организацию OpenAI для исследования безопасного развития технологии ИИ. Инвестиции в создание организации составили $1 млрд.

https://vc.ru/future/25206-musk-ai-threat


===============================================



Мы уже киборги. Илон Маск рассказал о будущем искусственного интеллекта
2 сентября 2019

Генеральный директор Tesla Илон Маск выступил на Всемирной конференции по искусственному интеллекту в Шанхае, поговорив об ИИ и его влиянии на человечество.

Маск полагает, что большинство людей уже является киборгами, так как слишком связаны со своими смартфонами, пишет The Wired.

Илон Маск провел дискуссию с основателем Alibaba Джеком Ма. Как и ожидалось, Ма занял гораздо более оптимистичную позицию, чем Маск. Ма побуждал людей верить в человечество, наше творчество и будущее. «Я не думаю, что искусственный интеллект представляет собой угрозу», — сказал он, на что Маск ответил: «Кажется, это будут знаменитые последние слова».

По словам Маска, в целом люди недооценивают возможности ИИ. Они относятся к программам просто как у умному человеку, в то время, как ИИ — это «намного больше».

«Есть, если вы знаете, старая поговорка, что если вы не можете победить их, присоединяйтесь к ним. Вы знаете, это по сути о проекте Neuralink. Сможем ли мы пойти вместе с ИИ? Я имею в виду, я действительно думаю, что должны быть другие компании, такие как Neuralink, для создания высокоскоростного интерфейса с мозгом. Потому что сейчас мы уже киборги. Люди не понимают, что мы уже киборги. Потому что мы слишком хорошо интегрированы с нашими телефонами и компьютерами. Телефон уже почти стал продолжением вас самих», — заявил Илон Маск.

«Некоторое время назад мне показалось, что вы можете думать о человечестве как о биологическом загрузчике для цифрового супер-интеллекта. Для тех, кто не знает, что такое загрузчик, это очень маленький кусочек кода, без которого компьютер не может запуститься. Но это минимум кода, необходимого для запуска компьютера. Как будто вы не могли развивать кремниевые контуры и для этого вам понадобился человек», — поделился аналогией основатель стартапа Neuralink.

Также Илон Маск «оптимистично» признал, что компьютеры уже намного умнее, чем люди, во многих сферах.

«Мы привыкли думать, например, что хорошо играть в шахматы — пример умного человека. А потом Каспаров был разгромлен Deep Blue в 97 году. Это было очень давно, 22 года назад. Я имею в виду, сейчас ваш мобильный телефон может буквально сокрушить чемпиона мира по шахматам. Раньше о Го думали как о чем-то, в чем люди лучше, чем компьютеры. А сейчас пытаться играть в компьютер в Го — это все равно, что сражаться с Зевсом. Это не сработает. Безнадежно, мы безнадежны. Безнадежно неадекватны», — подчеркнул Маск.

В то же время, Джек Ма заявил в ответ: «Я думаю, что ИИ откроет новую главу общества в мире, в которой люди пытаются лучше понять себя, а не внешний мир. И так сложно предсказать будущее. 99,99 процента предсказаний будущего оказались неверными».

Вскоре после этого участники дискуссии перешли к обсуждению колонизации Марса и перспектив образования.

Добавим, в 2017 году НВ уже рассказывало о компании Илона Маска Neuralink, которая была основана в июле 2016 года в Калифорнии. В ее уставе записано, что основным направлением ее деятельности будут исследования в медицинской сфере.

Для начала Neuralink будет заниматься непосредственно исследованиями. В частности, будет исследоваться возможность применения технологии «кружева» для лечения депрессии, болезни Паркинсона и т. д. Тем не менее, стартап Neuralink взял на работу Ванессу Толоса, инженера, который специализируется на гибких электродах, а также экспертов по мозговым имплантам. Среди них — Тимоти Гарднер, профессор Бостонского университета, который прославился исследованием, в ходе которого ставил мозговые импланты птицам, чтобы понять, как они поют.

Маск неоднократно заявлял, что опасается искусственного интеллекта. Он призывал лидеров Кремниевой долины не спешить с развитием ИИ, до тех пор пока не будет единого мнения о том, чем чревато появлении разумных машин для будущего человечества.

Основные опасения Маска связаны с тем, что роботы могут рано или поздно превзойти человека по интеллектуальным способностям. Нужно попытаться соответствовать машинам, иначе человечество проиграет, уверен Маск. Он считает, что фундаментальная разница между компьютерами и людьми в том, с какой скоростью они могут общаться. Люди способны воспринимать огромное количество информации зрительно и на слух, но не могут моментально делиться своими мыслями с другими людьми.

https://nv.ua/techno/innovations/my-uzhe-kiborgi-ilon-mask-rasskazal-o-budushchem-iskusstvennogo-intellekta-50040358.html

================================================


Илон Маск заявил, что искусственный интеллект нужно лучше регулировать
19.02.2020

Основатель Space X и Tesla Илон Маск заявил в Twitter, что все разработчики искусственного интеллекта (ИИ) должны находиться под внешним контролем, даже Tesla. Господин Маск сделал это заявление в ответ на статью, опубликованную в MIT Technology Review, в которой ресурс обвинил созданную Илоном Маском компанию по разработке свободного ИИ OpenAI в скрытности.

В MIT Technology Review заявили, что OpenAI стала одержима своей репутацией и наращиванием денежных средств и отодвинула на второй план разработку и дистрибуцию безопасного ИИ. Илон Маск в ответ заявил, что OpenAI должна стать более открытой.

Ранее Илон Маск уже выражал озабоченность будущим искусственного интеллекта. В 2014 году он написал в Twitter, что ИИ может стать более опасным, чем ядерное оружие, а также заявил, что «с помощью ИИ мы призываем демона». По мнению господина Маска, ИИ представляет наибольшую экзистенциальную угрозу человечеству.

Илон Маск в том числе говорил о необходимости государственного контроля за ИИ. В 2018 году он заявил в интервью, что ушел из совета директоров OpenAI, чтобы избежать конфликта интересов с Tesla, использующей машинное обучение в своих беспилотных автомобилях. Тогда же господин Маск сказал, что у США должен быть правительственный комитет, задача которого — оценивать опасный потенциал ИИ и других технологий и в дальнейшем регулировать их для безопасного использования. В то же время Илон Маск заявил, что не верит, что такой комитет на самом деле появится.

Евгений Федуненко

https://www.kommersant.ru/doc/4260667


=====================================


Быль о трех поросятах: Илон Маск показал свинок с вживленными в мозг чипами

    29 августа 2020

Американский бизнесмен Илон Маск в пятницу продемонстрировал миру живую свинью с вживленным в ее мозг микропроцессором.

Представляя во время прямой интернет-трансляции свинку Гертруду, Маск сравнил вживленный ей микрочип размером 23x8 мм с гаджетом Fitbit, "который находится у вас в голове с крошечными проводками".

В ходе эксперимента Гертруда обнюхивала различные предметы, а сигналы с ее пятачка шли в микропроцессор и регистрировались на представленном гостям графике.

Цель этого проекта, который разрабатывает компания Маска Neuralink, создать беспроводной интерфейс "мозг-компьютер", что в дальнейшем позволило бы лечить неврологические заболевания, такие как болезнь Альцгеймера, деменция, справляться с бессонницей, а также дало бы возможность парализованным людям управлять компьютером силой мысли.

Конечная цель этих экспериментов, как заявляется - объединить возможности искусственного интеллекта и мозга человека.

Маск назвал свое выступление в пятницу "демонстрацией трех поросят", сказав, что всем троим были вживлены в мозг по два крохотных импланта под местной анестезией с помощью хирургического робота.

Эти импланты не требуют никакого внешнего источника у ушной раковины, как это было в случае с более ранним прототипом, который компания Neuralink демонстрировала в июле 2019 года.

Более того, это обратимая операция, так как новый образец импланта может извлекаться.

В качестве демонстрации Маск представил другого поросенка, Дороти, у которой, по его словам, ранее был установлен подобный чип, но впоследствии был удален без видимых последствий для здоровья животного.

"Что Дороти показывает, так это то, что вы можете поставить внутрь чип Neuralink, затем его удалить, и быть здоровым и счастливым, совершенно неотличимым от других нормальных поросят", - сказал предприниматель.

"У меня мог быть установлен такой Neuralink, и вы бы даже не догадались. Может, так и есть", - сказал Маск.

Никаких конкретных научных выкладок по поводу этих экспериментов он не представил. Однако один из ученых, участвующих в этом проекте, сказал во время презентации, что этот вживленный в мозг микрочип позволит лучше считывать волны электрической активности мозга и, соответственно, лучше понимать природу неврологических заболеваний.

Между тем ряд ученых отметили огромный скачок вперед в том, что касается размеров микрочипа, его совместимости, портативности и возможности дистанционного управления, по сравнению с представленным в июле прошлого года прототипом.

Вместе с тем, идеи, разрабатываемые компанией Илона Маска, не новы.

Уже несколько десятков лет небольшие устройства, стимулирующие нервые окончания и определенные области мозга, вживляются пациентам с полной потерей слуха или страдающим болезнью Паркинсона, а также тем, кто после травмы позвоночника потерял способность управлять основными функциями организма.
 
Насколько достижимы великие замыслы?

В пятницу Маск подчеркнул, что эта интернет-трансляция не является сбором средств, но имеет целью привлечь к проекту новых людей.

Основанный в 2017 году в Сан-Франциско стартап Neuralink усиленно набирает специалистов, о чем в июле Маск написал в своем "Твиттере". О том, что в минувшую пятницу произойдет демонстрация новых достижений компании, Маск также предупредил серией твитов.

Компания Neuralink с прошлого года испытывает интерфейс "мозг-компьютер" в рамках амбициозного плана Маска наделить людей сверхчеловеческими способностями.

Для начала разработка должна позволить больным с двигательными и речевыми проблемами управлять компьютером и смартфоном силой мысли. В перспективе она дает начало тому, что Маск называет "эрой сверхпознания".

Человеческий разум должен слиться воедино с искусственным интеллектом, говорит он, в том числе затем, чтобы не допустить в будущем ситуации, когда последний станет могущественнее человека и уничтожит его.

Устройство, над которым работает компания, представляет собой крошечный микрочип, содержащий более трех тысяч миниатюрных электродов, присоединенных к подвижным нитям толщиной меньше человеческого волоса.

Каждый из них способен считывать информацию с тысячи нейронов мозга.

Чуть более года назад компания сообщила, что успешно провела тест на обезьяне, которая смогла мысленно управлять компьютером.

Она также создала "нейрохирургического робота", способного, как утверждают в компании, вводить в мозг 192 электрода в минуту.

"Компания Neuralink располагает значительными ресурсами и, что особенно важно, командой ученых, инженеров и медиков, сосредоточенных на одной цели, что дает им высокий шанс на успех. Однако создание медицинской техники - дело долгое, и безопасность обязана быть на первом месте, так что, я подозреваю, процесс займет больше времени, чем они обещают", - говорит профессор физиопроцедур и реабилитации Питтсбургского университета Дженнифер Коллинджер.

Ари Бенджамин из университета штата Пенсильвания заявил Би-би-си, что камнем преткновения для новой технологии может стать невероятная сложность устройства мозга.

"Научившись снимать информацию, они должны будут расшифровать ее. И здесь они могут упереться в барьер нашего фундаментального незнания того, как работает мозг, независимо от количества нейронов, с которых они ведут запись. Сложно истолковать целеполагающие и двигательные команды, не понимая нейронного кода, с помощью которого они передаются", - заметил он.

Компании Маска SpaceX and Tesla возбудили людское воображение своими инновациями в области космических полетов и электротранспорта.

Однако предприниматель известен также привычкой выступать со смелыми заявлениями о проектах, которые в итоге оказывается сложнее реализовать, чем разрекламировать.

https://www.bbc.com/russian/news-53954033

========================================


1 марта 2021
По словам Исигуро, он разделяет "солнечный, оптимистичный взгляд" на перспективы искусственного разума, который принесет человечеству огромные преимущества - хотя, конечно, не без некоторых оговорок.

"Представьте себе искусственный интеллект, способный чувствовать и сопереживать как человек. И он сочинит роман, который заставит меня плакать. Тогда я, допустим, займусь политикой, и буду планировать кампании эффективнее, чем компьютерные модели. А если искусственный интеллект придумает новую большую идею, такую же, как коммунизм, нацизм или капитализм? Тогда я останусь вообще без работы. Боюсь, людям тогда станет трудно контролировать ситуацию", - говорит Исигуро.

Впрочем, пока волноваться об этом рано, считает он, а когда придет время, люди что-нибудь придумают.

https://www.bbc.com/russian/features-56239904


===================================



Опасен ли искусственный интеллект? Глав крупнейших IT-компаний вызвали в Белый дом; в США и Британии призывают к госрегулированию
5 мая 2023

Белый дом объявил о пакете мер против потенциальных рисков, связанных с гонкой искусственных интеллектов. Это произошло после встречи президента Джо Байдена и вице-президента Камалы Харрис с главами крупнейших технологических компаний, ведущих разработки в этой сфере. Там обсуждался вопрос морального долга по защите общества от опасных сторон развития ИИ.

На этой неделе регуляторы рынка в США и Британии подняли вопрос о законодательных ограничениях индустрии после новых заявлений о ее потенциальных опасностях со стороны специалистов.

В четверг на встречу в Белый дом пришли главы основных игроков на рынке революционных исследований в области ИИ: Сундар Пичаи из Google, Сатья Наделла из Microsoft и Сэм Олтмен из Open AI - компании, разработавшей популярный чат-бот ChatGPT.

Политики заявили предпринимателям, что на тех лежит "фундаментальная ответственность": они должны убедиться, что их продукты безопасны, прежде чем обнародовать их и запускать в широкое пользование.

В Белом доме также отметили, что администрация президента не исключает введения нового законодательства, которое бы регулировало исследования в области ИИ, и объявили о выделении госфинансирования на создание новых исследовательских институтов.

По словам Сэма Олтмена, все присутствовавшие предприниматели на удивление не имели разногласий касательно регуляции отрасли в будущем.

Все они также согласились на открытое тестирование своих ИИ-систем на конференции по кибербезопасности DEFCON, которая пройдет в августе этого года.

"Принципы этики, надежности и ответственности"

Недавно появившиеся продукты на основе ИИ-технологий, такие как чат-боты ChatGPT и последовавший за ним Bard компании Google, быстро вошли в обиход у пользователей во всем мире.

Эти компьютерные программы, призванные имитировать реальный диалог с пользователем, в ответ на запрос ищут в интернете информацию и составляют из нее ответ, сформулированный максимально естественно.

Распространение чат-ботов вызвало озабоченность в связи с тем, что если технологии ИИ продолжат развиваться бесконтрольно, это может привести к опасным последствиям для людей: от неуправляемых потоков дезинформации, распространения труднораспознаваемых фейков и нарушений копирайта до масштабного закрытия рабочих мест и даже потери контроля над цивилизацией.

В США большинство исследований в области искусственного интеллекта ведутся частными компаниями, и их работа на данный момент не регулируется.

После встречи с предпринимателям Белый дом выпустил заявление о том, что хочет усилить государственный сегмент на этом рынке и вкладывает 140 млн долларов в создание семи новых исследовательских институтов.

Их работа будет направлена на координацию усилий федеральных агентств, университетов, частных компаний и других организаций.

Эти институты будут работать над продвижением систем искусственного интеллекта, "соответствующих принципам этики, надежности и ответственности и направленных на общественное благо", говорится в заявлении Белого дома.

Призывы к регулированию

В среду глава Федеральной торговой комиссии США призвала к введению государственного регулирования отрасли. В четверг британское ведомство, регулирующее рынки и конкуренцию, также заявило, что начинает свою проверку работы индустрии, занимающейся исследованиями в области ИИ.

Эти заявления о мерах со стороны американских и британских регуляторов последовали после недели предупреждений от экспертов.

В понедельник ученый Джеффри Хинтон, известный как "крестный отец ИИ", ушел из компании Google, чтобы иметь возможность без оглядки на корпоративные правила говорить об опасностях, связанных с искусственным интеллектом. При этом он назвал подход самой Google к этим технологиям ответственным.

В Британии советник правительства по научным вопросам Патрик Валланс, также покидая свой пост на этой неделе, призвал министров принять меры до того, как развитие ИИ приведет к гигантским социальным и экономическим пертурбациям.

"Для рынка рабочей силы последствия будут сравнимыми с последствиями Промышленной революции. Работу сможет выполнять ИИ, и это означает две вещи: многие потеряют работу, и многие получат работу, на которую способны только люди", - сказал Валланс.

Он напомнил, что изначально промышленный переворот, начавшийся около 200 лет назад, привел к сокращению экономики, но потом люди сумели адаптироваться к новой ситуации, появились профессии, которых раньше никто не мог предположить.

В марте открытое письмо о рисках, связанных с ИИ, подписали предприниматель Илон Маск и сооснователь Apple Стив Возняк.

Они призвали взять паузу в исследованиях в сфере искусственного интеллекта, пока не будут разработаны законы, регулирующие отрасль.

Другие специалисты, такие как Билл Гейтс, призывают фокусироваться на благах, связанных с развитием ИИ, и не останавливать исследования.

Гейтс приветствует участие правительств в регулировании индустрии для сокращения рисков, и также говорит о том, что преуспевающие государства должны целенаправленно инвестировать в ИИ для помощи, в первую очередь, беднейшим странам мира.

В США также звучат и такие голоса, которые, наоборот, призывают воздерживаться от избыточного регулирования и искусственных ограничений в развитии индустрии, чтобы Китай не обогнал Америку в гонке искусственных интеллектов.

https://www.bbc.com/russian/news-65497296

=========================================
Доволен я Аллахом как Господом, Исламом − как религией, Мухаммадом, ﷺ, − как пророком, Каабой − как киблой, Кораном − как руководителем, а мусульманами − как братьями.

Онлайн abu_umar_as-sahabi

  • Ветеран
  • *****
  • Сообщений: 11429
Re: Искусственный интеллект (ИИ)
« Ответ #3 : 06 Февраля 2025, 21:50:01 »
Как искусственный интеллект помогает прочитать утерянные тексты: от обуглившихся папирусов к философским трудам



    Автор, Отдел новостей
    Место работы, Русская служба Би-би-си
    Twitter, @bbcrussian

    5 февраля 2025

Исследователи смогли виртуально «развернуть» папирусный свиток из библиотеки Геркуланума — древнеримского города, который вместе с Помпеями стал жертвой извержения Везувия в 79 г. н. э.

Свиток обуглился настолько, что физически развернуть его и попытаться прочитать невозможно — он просто развалится в руках. Поэтому ученые используют рентген и искусственный интеллект, чтобы воссоздать содержание папируса.

«Мы уверены, что мы сможем прочитать более-менее весь свиток целиком. Мы впервые можем заявить об этом с уверенностью», — сказал Стивен Парсонс, управляющий проектом Vesuvius Challenge.


Обуглившиеся папирусные свитки из Геркуланума в библиотеке Неаполя

Огромная библиотека — более 1800 свитков — на вилле в Геркулануме, которая с тех пор получила название Вилла папирусов, была обнаружена археологами еще в XVIII веке. Считается, что это единственная античная библиотека, сохранившаяся в полном объеме.

Геркуланумские папирусы хранятся в Бодлианской библиотеке в Оксфорде, Институте Франции и музее Getty в Лос-Анджелесе. В течение многих десятилетий к ним никто не прикасался: исследователи опасаются навредить хрупким артефактам.

«Раньше мы не верили, что технологии могут быть достаточно безопасными или достаточно эффективными, чтобы извлечь хоть какую-то информацию из свитков», — объясняет глава отдела сохранности книг Бодлианской библиотеки Николь Гилрой.


План Виллы папирусов в Геркулануме, рисунок XVIII века.

Но ради этого проекта команда достала один свиток из запасников. Его поместили в специально изготовленный для этой цели корпус и привели в Diamond Light Source — синхротрон в Оксфордшире.

Синхротрон ускоряет электроны почти до скорости света и производит изучение сильнее обычного рентгена. При помощи излучения можно получить изображения свитка, не повредив хрупкий папирус.

«Это позволяет увидеть объекты в масштабе нескольких тысячных миллиметра», — объясняет директор физических наук в Diamond Адриан Манкузо.

Получив изображения при помощи синхротрона, ученые создают 3Д-реконструкцию. Затем им предстоит идентифицировать слои внутри свитка (а это около 10 метров папируса).

«Мы должны определить, где заканчивается один слой и начинается другой, чтобы затем „развернуть" цифровое изображение свитка», — поясняет Манкузо.

Затем искусственный интеллект помогает ученым найти чернила на развернутом свитке. Это не так-то просто: и папирус, и чернила состоят из углерода и их почти невозможно отличить друг от друга.

«Уже понятно, что свиток полностью исписан», — говорит Стивен Парсонс. «Теперь мы можем работать над тем, чтобы четче проявить текст».


Геркуланум, как и Помпеи, был похоронен под слоем вулканического пепла

Предыдущий прорыв в работе над папирусами из Геркуланума произошел в начале 2024 года, когда группе ученых под руководством Грациано Раноккья из Пизанского университета удалось прочитать около 1000 слов на одном из свитков. Это открытие позволило уточнить детали о смерти древнегреческого философа Платона, в том числе выдвинуть новую теорию о месте его захоронения.

Бодлианский свиток, вероятно, тоже содержит философский текст, но команде потребуется больше изобретательности — как со стороны людей, так и со стороны компьютеров — чтобы это можно было сказать с большой уверенностью.

Междисциплинарное сотрудничество

Междисциплинарное сотрудничество с давних пор помогает расшифровать неизведанные письменности и прочитать тексты, которые раньше казались утерянными. Одно из самых главных открытий в классической филологии и античной истории в XX веке — расшифровка линейного письма Б — оказалось возможным благодаря архитектору Майклу Вентрису. Работу Вентриса дополнил и закончил лингвист Джон Чедвик.
Исследователь в пластиковых перчатках кладет обуглившийся свиток на инструмент, напоминающий весы.

Цифровое «развертывание» свитков из Геркуланума началось в 2000-х благодаря Бренту Силсу — профессору университета Кентукки, специалисту по машинному обучению, ИИ и компьютерному зрению.

В 2005 году, когда многие институты начали оцифровывать тексты из своих коллекций, Силс задумался о том, нельзя ли виртуально «развернуть» свитки из Геркуланума.

Спустя четыре года у него был готов прототип, и ученый смог убедить Институт Франции предоставить ему свиток из их коллекции (при условии, что свиток не покинет институт). Однако доступных тогда вычислительных мощностей оказалось недостаточно, чтобы работать с изображениями свитка.

К 2015 году наконец-то технологии продвинулись достаточно для того, чтобы группа исследователей под руководством Силса смогла расшифровать манускрипт из израильской синагоги Эйн-Геди.

Но применить ту же самую технологию для свитков из Геркуланума оказалось намного сложнее. Материал манускрипта Эйн-Геди — пергамент, который реагирует на рентгеновское излучение иначе, чем чернила. Этого достаточно, чтобы получить текст. Но чернила на папирусе различить при помощи снимков почти невозможно.

Тогда Силс решил обратиться к искусственному интеллекту, чтобы восстановить написанное на папирусах из Геркуланума.

Так появился проект Vesuvius Challenge. В 2022 году бывший исполнительный директор айти-компании GitHub Нат Фридман предложил Силсу организовать конкурс по расшифровке свитков, открытый для любых желающих. Фридман и его соратник по инвестициям в ИИ Дэниэль Гросс вложили 125 тыс. долларов, еще 1 млн был собран среди других инвесторов в Кремниевой долине и пользователей соцсетей, и в марте 2023 года проект был запущен

Силс поделился своими разработками и сканами папирусов в высоком разрешении с участниками конкурса. Они, в свою очередь, должны были разработать модели машинного обучения, которые позволили бы отличить текст от обугленного пепла.

С тех пор организаторы несколько раз награждали участников. В каждом раунде заявляется конкретная цель и размер награждения для победителей.

Участники и победители зачастую совсем не знают древнегреческого языка, на котором (скорее всего) написаны тексты. Результаты их работы передают папирологам, которые, в свою очередь, оценивают получившийся текст.

Весной 2024 года международная команда из трех студентов смогли выявить около 2000 греческих букв — и получили за это 700 тыс. долларов.

https://www.bbc.com/russian/articles/cq5g9qzvgwpo
Доволен я Аллахом как Господом, Исламом − как религией, Мухаммадом, ﷺ, − как пророком, Каабой − как киблой, Кораном − как руководителем, а мусульманами − как братьями.

Онлайн abu_umar_as-sahabi

  • Ветеран
  • *****
  • Сообщений: 11429
Re: Искусственный интеллект (ИИ)
« Ответ #4 : 06 Февраля 2025, 22:09:43 »
ИИ написал книгу за репортера Би-би-си. Почему этого должны бояться писатели и музыканты

    Автор, Зои Клайнман
    Место работы, корреспондент Би-би-си по вопросам технологий
    Twitter, @zsk

    2 февраля 2025

Это перевод материала корреспондента Би-би-си, оригинал на английском языке можно прочитать здесь.

На Рождество я получила от одной своей подруги интересный подарок: книгу, которую якобы написала я сама.

На обложке присутствует мое имя с фотографией и очень меткое название «Tech-Splaining for Dummies» [то есть «Объяснение технологий для чайников» — Ред.]. Там также сказано, что книга стала бестселлером и получила отличные отзывы.

На самом деле это издание было полностью написано искусственным интеллектом — при помощи нескольких довольно простых подсказок обо мне, которые дала языковой модели моя приятельница Джанет.

Читать эту книгу было интересно — и местами очень смешно. Но в ней также есть довольно много пустых разглагольствований, а ее содержание можно описать как нечто среднее между пособием для самообучения и сборником забавных историй.

Текст написан в разговорном стиле — примерно в таком же, каким обычно пользуюсь я. Впрочем, в книге множество повторов и она очень многословна. Похоже, что искусственный интеллект полагался не только на советы Джанет, когда собирал обо мне сведения.

Несколько предложений начинаются словами «Как ведущий журналист по вопросам технологий» — довольно кринжовая фраза, которую, вероятно, позаимствовали из моей биографии в интернете.

В книге также появляется непонятно откуда взявшаяся галлюцинация (то есть измышления искусственного интеллекта) в виде моей кошки — на самом деле домашних животных у меня нет. Почти на каждой странице встречаются различные образные выражения, и некоторые из них довольно странные.

В интернете можно найти несколько компаний, предоставляющих услуги по «написанию» книг при помощи искусственного интеллекта. Моя книга была сделана сервисом BookByAnyone.

Глава этой израильской компании Адир Машиах рассказал мне, что уже продал клиентам, в основном в США, около 150 тыс. таких персонализированных книг. Он занялся этим бизнесом в июне 2024 года, переключившись с составления путеводителей при помощи искусственного интеллекта.

Выпуск такого «бестселлера» в мягкой обложке объемом 240 страниц стоит в этом сервисе около 30 долларов.

Для составления «авторских книжек» компания использует собственную систему искусственного интеллекта, основанную на так называемых «больших языковых моделях» (LLM) с открытым кодом.

Я совсем не призываю вас купить мою новую книгу. На самом деле вы даже не сможете этого сделать, потому что напечатать новые экземпляры под силу только Джанет, которая и сделала оригинальный заказ.

Кто угодно может создать книгу под авторством любого человека, даже если этим автором окажется знаменитость.

Впрочем, Машиах уверяет, что в его компании есть политика борьбы со злоупотреблениями и вредоносным контентом. В каждой книге присутствует дисклеймер, где четко указано, что это произведение не имеет отношения к действительности, создано искусственным интеллектом, и его единственная задача «приносить смех и радость» клиенту.

С точки зрения закона, копирайт на эти книги принадлежит компании BookByAnyone, но Машиах настаивает, что их создают только как «подарки-розыгрыши» и они не предназначены для продажи широкой публике.

При этом Машиах надеется вскоре расширить свой ассортимент и создавать книги в разных жанрах, таких как научная фантастика или автобиография. В любом случае этот сервис задумывался как не слишком серьезный способ применить искусственный интеллект для создания сувениров.

Но для людей, которые зарабатывают на жизнь написанием различных текстов, таких как я, все это выглядит довольно страшно. Не в последнюю очередь — потому, что для создания столь объемной книги, вероятно, понадобилось не более минуты и местами она действительно очень похожа на мои публикации.

Музыканты, писатели, художники и актеры по всему миру выражают опасения, что технологические компании могут использовать их произведения для обучения моделей искусственного интеллекта, которые затем начнут производить похожий контент.

«Здесь нужно понимать, что когда речь идет о таких данных, мы на самом деле имеем дело с произведениями, над которыми люди работали всю жизнь», — говорит по этому поводу Эд Ньютон Рекс, основатель группы Fairly Trained, ведущей борьбу за соблюдение прав создателей контента при обучении моделей ИИ.

«Это книги, статьи, фотографии. Это произведения искусства. Это музыкальные записи. Весь смысл обучения ИИ состоит в том, чтобы понять, каким образом делается то или иное произведение, а потом самому создать что-то подобное».

В 2023 году в интернете «завирусилась» созданная искусственным интеллектом песня с голосами канадских певцов Дрейка и The Weekend (под этим именем известен Эйбел Макконен Тесфайе).

После этого стриминговые платформы решили удалить ее, поскольку сами исполнители не давали согласия на использование их голосов. Но создатели записи все же попытались выдвинуться на получение премии Grammy. Трек был очевидно фейковым, но оставался невероятно популярным.

«Я не предлагаю запретить использование генеративного ИИ для создания произведений искусства. Но я думаю, что под запретом должен оказаться генеративный ИИ, который обучается на произведениях людей без их согласия, — отмечает Эд Ньютон Рекс. — ИИ может стать очень мощным инструментом, но давайте работать над ним честно и с соблюдением этических норм».

Некоторые организации в Великобритании, в том числе и Би-би-си, запрещают производителям ИИ анализировать их размещенный в интернете контент для обучения моделей. Другие решили сотрудничать с компаниями в области искусственного интеллекта, например, газета Financial Times заключила соглашение о партнерстве с создателем ChatGPT, компанией OpenAI.

Британское правительство обсуждает возможность изменения законов с тем, чтобы создатели ИИ могли по определению использовать размещенные в интернете произведения для обучения своих моделей, если только правообладатели специально не попросят об обратном.

Эд Ньютон Рекс называет это предложение «безумным».

Он отмечает, что искусственный интеллект может найти хорошее применение в таких областях, как оборона, здравоохранение и логистика. То есть там, где не требуется брать за основу работу писателей, журналистов и художников.

«Чтобы все эти вещи работали, не нужно менять законодательство об авторских правах и отбирать источник дохода у креативного сектора нашей страны», — настаивает он.

Против отмены копирайта в применении к искусственному интеллекту выступает и член британской Палаты лордов баронесса Кидрон. «Креативная индустрия — это приносит благосостояние, в ней работает 2,4 млн человек – и она дает большую радость людям», — говорит Кидрон, которая также работает советником Института этики ИИ при Оксфордском университете.

«Правительство подрывает одну из самых успешных индустрий под предлогом неясной пока перспективы развития», — продолжает она.

Правительство Великобритании, между тем, уверяет, что не намерено предпринимать никаких действий, пока не появится четкий план, предусматривающий контроль правообладателей над использованием их интеллектуальной собственности.
Обложка книги Tech-Splaining for Dummies, написанной искусственным интеллектом и стилизированной под Зои Клайнман.

В США федеральные правила в области использования ИИ теперь будет определять новая администрация во главе с президентом Дональдом Трампом.

В 2023 году тогдашний глава Белого дома Джо Байден подписал указ, призванный повысить безопасность работы искусственного интеллекта: в числе прочего он обязывал технологические компании показывать властям свои системы ИИ до того, как они появляются на рынке.

Но вскоре после своей инаугурации Трамп отменил этот указ, и пока непонятно, какой будет его политика в этой области (в прошлом он говорил, что выступает за более мягкое регулирование сектора ИИ).

Тем временем американские суды рассматривают несколько исков против фирм, разрабатывающих ИИ-модели, особенно — против OpenAI. Их подали множество различных организаций, в том числе газета New York Times, а также писатели, музыкальные компании и даже один комик. Авторы исков настаивают, что ИИ-фирмы нарушили закон, поскольку без разрешения использовали для обучения своих моделей их произведения.

Но ИИ-компании утверждают, что делали это по принципу «добросовестного использования», то есть правила копирайта в данном случае не работают. Этот принцип, впрочем, может трактоваться неоднозначно, поэтому споры о том, должны ли технологические компании платить за использование контента при обучении своих моделей, продолжаются.

Если кто-то подумал, что все это не дает достаточную пищу для размышлений, за последнюю неделю в секторе ИИ произошло еще одно землетрясение: на рынок ворвалась китайская компания DeepSeek, приложение которой стало самым скачиваемым в американском магазине приложений Apple.

DeepSeek утверждает, что на разработку этой модели ушло на порядок меньше средств, чем на аналоги американского производства, такие как ChatGPT. В западных странах начали опасаться, что это приложение может быть небезопасным — и оно в любом случае угрожает нынешнему американскому доминированию в секторе ИИ.

Если же вернуться к моей журналистской карьере, то пока все говорит о том, что если я действительно захочу выпустить «бестселлер», то писать его мне придется самостоятельно. «Объяснение технологий для чайников» служит хорошей иллюстрацией того факта, что нынешние технологии генеративного ИИ не слишком хорошо справляются с проектами большего масштаба. В этой книге полно неточностей и «галлюцинаций»; местами ее довольно трудно читать, в том числе потому, что она такая многословная.

Но технологии сейчас развиваются очень быстро. Так что мне трудно сказать, долго ли еще проживет моя уверенность в преимуществе моих несравненно более медленных, чем у ИИ, навыков написания и редактирования текстов.

https://www.bbc.com/russian/articles/ce3lzpl23ywo
Доволен я Аллахом как Господом, Исламом − как религией, Мухаммадом, ﷺ, − как пророком, Каабой − как киблой, Кораном − как руководителем, а мусульманами − как братьями.