Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Пересмотрены представления о человеке-щелкунчике
Благодаря новому анализу окаменелых следов, обнаруженных в Кении, учёные пересмотрели представление о «человеке-щёлкунчике» — вымершем гоминиде Paranthropus boisei, получившем своё прозвище из-за крупных зубов и мощных челюстных мышц.

Ранее считалось, что рост самцов составлял около 131 сантиметра, а вес — в среднем около 49 килограммов. Однако обновлённые расчёты, основанные на длине и ширине 21 недавно обнаруженного следа P.

boisei, показывают, что «человек-щёлкунчик» был ближе к современному человеку: его рост составлял до 1,8 метра, а вес — до 75 килограммов. Ведущий автор исследования Кевин Хатала, доцент кафедры биологии в Университете Чатем в Питтсбурге и научный сотрудник Института эволюционной антропологии Общества Макса Планка в Лейпциге, рассказал, что каждый набор следов позволяет нам заглянуть в определённый момент времени и увидеть, как жили гоминиды и как они взаимодействовали с окружающей средой.

Учёный добавил, что угроза со стороны опасных животных, таких как гиппопотамы, могла объяснить, почему в группе были только взрослые самцы. Профессор кафедры антропологии Вашингтонского университета в Сиэтле и куратор отдела археологии в Музее Бёрка Патрисия Крамер комментирует: «Следы — это важные окаменелости, потому что они дают нам информацию как об анатомии, так и о поведении».

Она рада, что авторы предоставили дополнительную информацию и результаты анализа цепочек следов в Кооби-Фора. Следы, которым около 1,4 миллиона лет, хорошо очерчены, их глубина достигает 12 сантиметров.

Они были вдавлены в ил на мелководье озера. Семь следов были обнаружены в 1978 году в ходе полевых работ под руководством старшего автора исследования Анны Кэтрин Беренсмейер, старшего геолога-исследователя и куратора отдела палеонтологии позвоночных в Национальном музее естественной истории Смитсоновского института в Вашингтоне.

Раскопки в 2016 и 2023 годах позже выявили ещё 14 следов гоминина, а также следы, оставленные человеком и другими животными, такими как антилопы и гиппопотамы. P.

boisei сосуществовал с Homo erectus на протяжении сотен тысяч лет. В другом исследовании, проведённом в 2024 году под руководством Хаталы, сообщалось об обнаружении ископаемых следов в бассейне Туркана в Кении, сделанных с разницей не более чем в несколько дней двумя разными видами гомининов.

Исследователи предположили, что отпечатки принадлежали H. erectus и P.

boisei.

Московский комсомолец

Ракета летит к Луне
SpaceX запустила пару луноходов более года назад, и теперь дрейфующая ракета движется курсом на столкновение с Луной, сообщает Associated Press.

Верхняя ступень ракеты непреднамеренно врежется в Луну в среду, образовав кратер и подняв столб пыли и щебня. Учёные и любители наблюдать за небом с нетерпением ждут этого события.

Эксперт по космическим наблюдениям Билл Грей предсказывает столкновение со скоростью 8700 км/ч — в семь раз превышающей скорость звука — вблизи кратера Эйнштейна на освещённой солнцем западной оконечности Луны. Наилучшие виды должны открываться из восточных районов США и Канады, а также на большей части Южной Америки, отмечает Associated Press.

Хотя учёные не слишком обеспокоены этим конкретным фрагментом космического мусора, Билл Грей подчёркивает растущую угрозу, поскольку на орбиту попадает всё больше и больше предметов. «Там становится тесно», — комментирует он.

В намерения SpaceX никогда не входило попасть на Луну, отмечает Associated Press. Но эксперты по космосу заявили, что катастрофы можно было бы избежать, если бы разгонный блок был выведен на орбиту вокруг Солнца.

Это будет вторая ракета, которая, как известно, случайно упадёт на Луну. В 2022 году китайская ракета-носитель образовала пару кратеров на обратной стороне Луны.

Новое столкновение произойдёт на обратной стороне Луны, и его мощность будет эквивалентна энергии трёх тонн тротиловой взрывчатки, подчёркивает Associated Press. Ударная вспышка, длящаяся менее секунды, вероятно, будет слишком тусклой, чтобы её можно было увидеть с Земли.

Но поток выброшенного материала может простираться на несколько миль в космос и оставаться видимым для телескопов в течение десятков минут. Бенджамин Фернандо из Лос-Аламосской национальной лаборатории поощряет к наблюдениям как профессионалов, так и любителей.

«Одна из причин нашего интереса к этому событию заключается в том, чтобы выяснить, насколько опасны столкновения с обломками для будущих астронавтов», — добавил он. Бенджамин Фернандо ожидает образования ударного кратера диаметром около 27 метров и глубиной 5 метров, который слишком мал, чтобы его можно было увидеть с Земли, но виден с космических аппаратов.

Лунный разведывательный орбитальный аппарат НАСА и южнокорейский лунный орбитальный аппарат Данури сделают снимки места крушения до и после него.

Московский комсомолец

Нейросеть
Нашли неизвестный минерал дороже золота
В России в Кировском руднике Хибинского массива обнаружили минерал, который пока не известен науке.

Об этом проинформировали РИА Новости в Министерстве науки и высшего образования. Минерал получил название «Кольский ашкрофтин».

В его составе обнаружен редкоземельный элемент иттрий. В ведомстве отметили, что теперь это не просто красивый камень, а настоящий химический архив земной коры — иттрий, кремний, калий, натрий и другие элементы, словно таблица Менделеева, заключены в одном кристалле.

Средняя цена за налёт на породе составляет 145 долларов за миллиметр, что значительно превышает стоимость золота. Структура найденного кристалла отличается особой сложностью среди всех известных науке на сегодняшний день.

Ранее Сергей Язев, ведущий научный сотрудник Института солнечно-земной физики Сибирского отделения Российской академии наук и профессор Иркутского государственного университета, сообщил, что металлический астероид на Луне может иметь стоимость около квадриллиона долларов. По его словам, километровый металлический астероид, который упал на Луну в древности, содержит металлы, редкоземельные элементы и элементы платиновой группы на указанную сумму.

Лента ру

Создай новую модель прогнозирования
Государству важно иметь точные данные о возрастной структуре населения, чтобы эффективно распределять ресурсы для здравоохранения, пенсионного обеспечения и социальной поддержки.

Существующие математические модели, разработанные в прошлом веке, не всегда точны. Герман Пушкарев считает, что в их основе лежит ошибочное предположение о том, что вероятность смерти с возрастом только увеличивается.

Пушкарев утверждает, что для младенцев и маленьких детей ситуация иная: риск смерти наиболее высок в первый год жизни, и только к пяти годам он снижается. При этом для пожилых людей риск смерти с годами действительно растёт, но в XXI веке, благодаря новым лекарствам и методам лечения, люди стали жить дольше.

Новая математическая модель, предложенная группой Германа Пушкарева, учитывает современные демографические условия в России, включая падение рождаемости до исторического минимума и старение населения. Учёные проверили свою модель, используя статистику смертности всех возрастных групп за 2004–2009 годы.

Они настроили программу на основе этих данных и вывели прогноз на 2010 год. Прогноз, учитывающий динамику младенческой и детской смертности, а также ежегодный прогресс в медицине, с точностью 99,7% отразил реальные данные по смертности за 2010 год.

Автор текста — Мария Быкова.

Московский комсомолец