Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Раскрой секрет: почему люди сплетничают
Когда вы переживаете из-за того, что не стоит делиться подробностями о свадьбе знаменитостей или обсуждать слухи о коллегах, помните: исследователи в Польше выяснили, что сплетни могут быть полезны.

Согласно статье в New York Post, люди, которые распространяют слухи, с большей вероятностью имеют романтические отношения и детей. Это может говорить о том, что такое поведение имеет небольшое репродуктивное преимущество.

Доктор Марцин Моронь, социальный психолог, обращает внимание не только на безобидные сплетни, но и на их тёмную сторону. Сплетни могут подорвать репутацию соперников и заставить их прекратить борьбу за одних и тех же романтических партнёров.

Сплетник может использовать разные стратегии: саморекламу, уничижение конкуренции, молчание, двусмысленные комплименты, поддразнивание или исключение других. Это форма агрессии, которую люди научились использовать в процессе эволюции для борьбы за ресурсы, поиска пары и защиты от врагов.

Исследование, проведённое в 2024 году, показало, что люди любят, когда им сообщают пикантную информацию, и сотрудничают со сплетниками. Сплетни могут быть способом выпустить пар и сблизить людей, если они делятся секретом.

Однако сплетни также могут иметь негативные последствия. Они могут повысить творческий потенциал, но в то же время могут быть связаны с хитростью и склонностью к риску.

Кроме того, манипулирование партнёром может стабилизировать отношения, но также может иметь и другие последствия.

Московский комсомолец

Трамп рассекречивает архивы Пентагона
Президент Трамп активно поддерживает процесс рассекречивания информации, в результате чего были опубликованы десятки записей Пентагона, касающихся неопознанных аномальных явлений.

Джаред Айзекман отметил, что многие из этих материалов долгое время хранились в архивах, а теперь администрация требует их обнародования. Это позволит другим исследователям изучить содержимое снимков.

Айзекман подчеркнул, что процесс рассекречивания будет продолжаться, однако пока нет никаких признаков, указывающих на окончательное доказательство визитов инопланетян или падения их аппаратов. Джаред Айзекман, известный своим интересом к космосу и совершивший частный полёт на орбиту, заявил, что лично не сталкивался со свидетельствами падения инопланетных тел или обнаружения фрагментов космических кораблей.

Однако он предположил, что более значимым прорывом может стать исследование образцов, собранных на Марсе. По его словам, там существует «очень высокая вероятность» обнаружения следов микробной жизни.

Если эти образцы будут доставлены на Землю, это может стать первым неоспоримым доказательством того, что мы не одиноки во Вселенной. Директор НАСА признался, что эта тема его «невероятно увлекает», поскольку она лежит в основе миссии космического агентства — ответить на вопрос, одиноки ли мы во Вселенной.

Ранее агентство официально отрицало внеземное происхождение НЛО и в отчёте 2023 года независимой группы экспертов призвало к сбору более качественных данных.

Московский комсомолец

Накамура создаёт синие светодиоды
Цель проекта — создать электростанцию, которая будет использовать новый вид высокоимпульсного лазера для термоядерного синтеза и производить «бесконечный» запас эффективной, экологически чистой энергии.

В возрасте 72 лет Накамура полон энергии и стремится к этому. В 1979 году он работал в японской компании Nichia Corporation, возглавляя исследовательскую группу.

За 10 лет работы он разработал три продукта, но ни один из них не продавался хорошо. Коллеги говорили ему, что нужно уволиться.

Накамура развил в себе менталитет «изобретательства в гневе» — крайнее стремление доказать, что другие неправы. Он вырос в маленькой японской рыбацкой деревушке, где научился любить природу.

Крупнейшие корпорации инвестировали миллионы в попытки разгадать тайну создания синих светодиодов. Накамура получил бюджет в 3 миллиона долларов для разработки синих светодиодов.

Он провёл год в лаборатории Университета Флориды, изучая химическое осаждение металлов и органических соединений из паровой фазы (MOCVD). В 1989 году Накамура вернулся в Японию, где столкнулся с новыми препятствиями.

Его самый большой поклонник ушёл с поста президента. Накамура решил посвятить себя изучению материала нитрида галлия как ключа к созданию синих светодиодов.

Через несколько месяцев Накамура создал простой светодиод, который светился мягким фиолетово-голубым светом. Синий светодиод был завоёван.

Нитрид галлия оказался ключом к успеху. В декабре 2022 года исследователи из Национальной лаборатории воспламенения в Ливерморской лаборатории Лоуренса в Калифорнии добились первого в истории «усиления термоядерного синтеза».

Накамура не участвовал в этом эксперименте, но уже приступил к разработке новой концепции мощного лазера для инерционного термоядерного синтеза. В ноябре 2022 года Накамура стал одним из основателей Blue Laser Fusion.

Прорыв в области термоядерного синтеза придал ему ещё больше энергии. Накамура полон решимости использовать то, что было научно доказано в лаборатории, и превратить это в действующую электростанцию.

Накамура и его команда создали оптический усиливающий резонатор, который накапливает энергию высокоимпульсного лазера в своей оптической камере, а затем увеличивает мощность лазера до 100 000 раз, что стимулирует и сдерживает горение. Цель — построить экспериментальную термоядерную электростанцию мощностью 1 гигаватт, которая сможет обеспечить энергией от 750 000 до 1 миллиона домов к 2032 году недалеко от Санта-Барбары, Калифорния.

Накамура уверен, что это станет его величайшим достижением и подарком миру.

Московский комсомолец

Нейросеть
Выживет ли Земля
В журнале Astronomy and Astrophysics опубликовано исследование, которое опровергает распространённое мнение о том, что Земля не сможет пережить огненную смерть Солнца.

Главный автор исследования — Матс Эссельдер, научный сотрудник Института астрономии университета Левена в Бельгии, — утверждает, что наблюдения за солнцеподобными гигантскими звёздами указывают на возможность выживания Земли. Исследователи изучали последствия гибели звезды нашей Солнечной системы, которая, по прогнозам, произойдёт через 5 миллиардов лет.

Когда у Солнца закончится водород, оно превратится в красного гиганта, затем в ещё более крупную «звезду асимптотической ветви гигантов (AGB)», прежде чем стать белым карликом. Межзвёздные предсмертные судороги приведут к термоядерному аду, который, по прогнозам, поглотит Меркурий, Венеру и Землю.

Однако после изучения моделей звёздной эволюции и умирающей звезды под названием L2 Puppis команда пришла к выводу, что наша планета, возможно, не исчезнет в этом катаклизме. Судьба Земли зависит от тонкого баланса между приливными взаимодействиями и потерей массы Солнцем.

Если преобладают приливные взаимодействия, Земля будет поглощена. Если преобладает потеря массы, Земля переместится на более широкую орбиту.

Поскольку скорость потери массы стареющими звёздами остаётся неясной, команде нужны «более точные наблюдения», прежде чем они смогут быть уверены в том, что произойдёт с Землёй после взрыва, сказал учёный. Хотя технически наша родная планета может пережить Армагеддон, этого не произойдёт с её обитателями.

Солнце, которое в настоящее время находится на полпути к завершению своего жизненного цикла, будет продолжать превращать водород в гелий, становясь всё более горячим и негостеприимным для жизни задолго до того, как встретит своего создателя.

Московский комсомолец

Другие новости