Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Найден крупнейший клад дирхамов
Эдвин Зальцман, руководитель Самбийской экспедиции Института археологии РАН, рассказал «МК», что арабское серебро было основным драгоценным металлом в Европе того времени.

На территории нынешней Калининградской области проживали пруссы — балтский народ, давший название Пруссии. Вероятно, дирхамы появились благодаря скандинавам, чьё поселение также было найдено в регионе.

Самая старая монета датирована 746 годом. Большинство фрагментированных монет было выпущено ал-Махди, третьим халифом из династии Аббасидов, правившим в 775–785 годах.

Самый новый дирхам был отчеканен в 815 году. Это указывает на то, что клад был спрятан не позднее начала IX века, то есть до летописной даты основания Руси.

Другие дирхамы, обнаруженные в Северной Европе, найдены в кладах, сделанных между 780-ми и 830-ми годами в Северной Польше, Эстонии и Швеции. Их около двух десятков, но они значительно меньше по объёму, чем клад, обнаруженный Самбийской экспедицией.

Чаще археологи находят одиночные монеты в захоронениях. Вероятно, сокровища закопал один из купцов, стоявших у истоков прокладки пути «из варяг в греки».

Московский комсомолец

Обнаруживают уран в космосе
Американский физик Данагулян разработал концепцию нового метода обнаружения урана в космосе.

Этот метод нарушает положения Договора по космосу 1967 года, который запрещает размещение ядерного оружия на орбите. Суть метода заключается в использовании процесса расщепления нейтронов.

Когда высокоэнергетические протоны из поясов Ван Аллена сталкиваются с ядрами урана на борту подозрительного аппарата, они выбивают из них характерные нейтроны. Их можно засечь специальным детектором.

Если спутник-инспектор пролетит по правильной орбите в нужное время, сигнал укажет на наличие необычного количества урана. Данагулян уверен, что необходимая технология уже существует, хотя инженерная реализация в космосе сопряжена с огромными сложностями.

Идея появилась, когда один из студентов Данагуляна изучал расщепление нейтронов. Автор называет свою работу технико-экономическим обоснованием, которое призвано показать, что проект реализуем, а не построить готовую систему.

Физик столкнулся с неожиданным препятствием: несмотря на то, что его команда всегда работала открыто над контролем над вооружениями и проверкой боеголовок, в этом проекте секретность оказалась абсолютной. Коллеги из секретных лабораторий не могли делиться информацией, что ставит под сомнение возможность быстрого международного сотрудничества.

Однако сам физик настроен оптимистично и сравнивает важность такой системы с созданием Starlink. Он утверждает, что проверка соблюдения Договора по космосу нужна для безопасности не меньше, чем глобальный интернет.

По его оценкам, полноценная система будет дорогой и сложной, но её создание неизбежно, если человечество хочет избежать ядерной конфронтации на орбите.

Московский комсомолец

Нейросеть
Историк раскрывает тайну голландского корабля
Историк сообщил, что в найденных документах детально описано, как голландское торговое судно «Дом ван Кеулен» попало в «очень бурную погоду» у берегов Англии и было оставлено экипажем, который покинул корабль с ценным грузом на борту.

Все детали, включая дату, местоположение и происхождение монет и других предметов, соответствуют тому, что десятилетиями находилось на дне моря. Археологи считают, что это открытие проливает свет на торговые связи XVII века между Марокко, Нидерландами и Великобританией, а также на могущество династии Саадиан, которая правила в Марокко и чеканила золотые монеты, ставшие ключом к разгадке.

От самого корабля практически ничего не осталось: дерево сгнило, металл проржавел. Единственными зацепками для исследователей стали необычный груз, включающий не только золото, но и козьи шкуры, печать торговца и керамику, а также монеты с выбитой датой чеканки.

Самая поздняя из них — 1632 года. Именно она позволила сузить временной промежуток и указать, что крушение произошло не раньше этого года.

Это совпало с датой иска, обнаруженного Фрилом. По словам историка, этот факт стал решающим аргументом в идентификации судна, хотя о самом «Доме ван Кеулене» не сохранилось ни картин, ни эскизов, и почти ничего не известно о его внешнем виде, конструкции или предыдущих рейсах.

«Такая скромная идентификация имеет огромное научное значение, поскольку она помогает восстановить картину морской торговли XVII века, когда голландские купцы активно возили африканское золото из Марокко в Амстердам», — рассказывает историк. Руководитель отдела исследований Британского музея Джереми Хилл подчеркнул, что эта находка напоминает, как много ещё тайн скрыто в морских глубинах.

Он отметил, что даже спустя столетия совместная работа экспертов может превратить разрозненные артефакты в целостную историю, связывающую три страны и несколько культур в общем узле морской судьбы.

Московский комсомолец

Объясняют учёные: почему осьминоги умные
Головоногие моллюски, такие как осьминоги и каракатицы, оказались исключением в теории эволюции мозга.

Учёные пытаются понять, почему у осьминогов такой большой мозг, несмотря на то что они живут уединённо, часто проявляют агрессию к сородичам, а некоторые даже практикуют каннибализм. Они умирают вскоре после размножения, не имея ни родительских навыков, ни элементарных социальных структур.

Исследователи во главе с британским психологом Майклом Мутукришной пересмотрели устоявшиеся догмы, предложив альтернативу. Согласно гипотезе культурного мозга, решающую роль играет не общительность, а способность хранить и управлять информацией, полученной через индивидуальное обучение в сложной и богатой ресурсами среде.

В новом исследовании учёные собрали сравнительные данные о размере мозга и экологии 79 видов головоногих. Выяснилось, что самыми «умными» оказались те, кто живёт на морском дне и в мелководных прибрежных зонах.

Там разнообразие ландшафтов, обилие пищи и огромное количество укрытий и расщелин требуют от моллюска постоянной адаптации, способности менять форму, охотиться на разную добычу, использовать инструменты и запоминать сложные маршруты. При этом их социальное поведение оставалось минимальным.

А те виды, которые действительно демонстрировали групповую жизнь (кальмары и каракатицы), не показывали прямой зависимости между уровнем общительности и объёмом мозга. Это говорит о том, что гипотеза социального мозга просто неприменима к этим животным.

Специалист по осьминогам Дженнифер Мазер подчеркнула, что это открытие должно напомнить: научные догмы всегда нужно подвергать сомнению. Мутукришна добавил, что их работа началась с математической модели для объяснения эволюции человеческого мозга, которая предсказывала второй путь к интеллекту через богатство и сложность среды, а не через численность группы.

Теперь эти данные подтверждают, что осьминоги, кальмары и каракатицы стали идеальным природным экспериментом, доказывающим, что существует несколько дорог к развитию разума, и социальность — лишь одна из них, но отнюдь не единственная.

Московский комсомолец

Другие новости