Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Открыт метеорный поток Июньские Боотиды
В ПНИПУ рассказали, что поток Июньских Боотид был открыт в 1916 году британским астрономом-любителем Уильямом Деннингом.

Он первым заметил медленно летящие по небу «падающие звёзды», которые являются осколками кометы 7P/Понса–Виннеке. Комета 7P/Понса–Виннеке названа так в честь астрономов, внёсших основной вклад в её изучение.

Впервые её обнаружил француз Жан-Луи Понс в 1819 году, но затем она «потерялась», так как учёный не смог вовремя рассчитать её точную орбиту и время возвращения. Имя второго астронома, открывшего комету вновь в 1858 году, было закреплено в названии вместе с первым.

Это был немецкий наблюдатель за звёздами Фридрих Виннеке, который работал в Пулковской обсерватории Санкт-Петербурга с 1858 по 1865 годы. По словам эксперта Пермского Политеха Евгения Бурмистрова, период обращения кометы 7P/Понса–Виннеке вокруг Солнца составляет примерно 6,4 года.

Но Земля пересекает её шлейф ежегодно — с 22 июня по 2 июля. В это время создаётся впечатление, что частицы шлейфа падают на нашу планету, причём с наибольшей активностью с 27 на 28 июня.

Этот метеорный поток называется Июньскими Боотидами по названию радианта — точки, откуда визуально вылетают «звёзды», расположенной в созвездии Волопаса (от латинского Boötes). Чтобы найти этот ориентир, надо смотреть на ярчайшую оранжевую звезду Арктур, которая является продолжением ручки ковша Большой Медведицы.

Интенсивность потока Июньских Боотид непредсказуема. Бывают годы, когда астрономы не фиксируют ни одного падающего с неба метеора, а бывает, что они летят в сторону Земли по 100 штук в час.

Это зависит от гравитации Юпитера, вблизи которого проходит орбита кометы, и та периодически отклоняется от своего первоначального курса. Наблюдать Июньские Боотиды астрономы советуют после часа ночи, ориентируясь на звезду Арктур в созвездие Волопаса, на северо-восточном горизонте неба.

Московский комсомолец

Нейросеть
Куркумин помогает при диабете 2 типа
Куркумин, который является активным компонентом куркумы, может оказывать положительное влияние на уровень сахара в крови и уменьшать воспалительные процессы у людей с диабетом второго типа.

Этот вывод сделали исследователи, опубликовавшие обзор данных в журнале Frontiers in Nutrition. Учёные изучили клинические исследования и метаанализы, оценивая различные стандартизированные формы куркумина.

Выяснилось, что при правильной формуле и дозировке куркумин способен снижать уровень глюкозы натощак, гликированного гемоглобина и инсулиновую резистентность. Кроме того, он уменьшает хроническое низкоуровневое воспаление, которое может ускорять развитие осложнений диабета.

Однако применение куркумина осложняется его низкой биодоступностью. В стандартных добавках вещество плохо усваивается, быстро разрушается в организме и может давать непредсказуемый эффект.

Для решения этой проблемы учёные предлагают использовать улучшенные формулы, такие как комплексы с пиперином, фосфолипидные соединения, наночастицы и мицеллярные системы. Они обеспечивают стабильное и эффективное поступление куркумина в организм.

Авторы подчёркивают, что куркумин не заменяет стандартную терапию диабета, но может служить дополнением к ней. Ранее стало известно, что у людей с группой крови B повышен риск развития диабета второго типа.

Лента ру

Определи направления развития космоса
В проекте указа президента Российской Федерации говорится о планах развития космической отрасли до 2036 года и далее.

Среди приоритетных направлений — разведка и освоение ресурсов Луны и астероидов. Однако эти задачи планируется реализовать после 2036 года.

Согласно документу, государство будет концентрировать ресурсы на направлениях, которые обеспечат технологический суверенитет, безопасность, экономическую эффективность и устойчивое развитие страны. Среди таких приоритетов — проекты по поиску и использованию внеземных ресурсов на Луне и других небесных телах Солнечной системы.

Автор текста — Кирилл Озимко.

Московский комсомолец

Выяснена причина хрупкости нейронов
В научном журнале Cell Death Discovery (CDD) опубликовано исследование, которое раскрывает одну из причин развития болезней Альцгеймера и Паркинсона.

Учёные выяснили, что с возрастом в нейронах головного мозга постепенно накапливается железо, что делает их более хрупкими и уязвимыми к повреждениям. Железо необходимо организму для переноса кислорода и выработки энергии, однако его избыток может негативно сказаться на здоровье.

Исследователи ввели новый термин — «хроноферроптоз». Это состояние, при котором длительное воздействие железа не убивает клетку сразу, но медленно истощает её защитные силы, делая чувствительной даже к незначительному стрессу.

Эксперименты показали, что несколько часов контакта с железом практически не меняют структуру клеток. Однако после девяти дней накопления в нейронах нарушается метаболизм, падает антиоксидантная защита и усиливаются процессы перекисного окисления липидов, разрушающие мембраны.

В результате клетки теряют способность сопротивляться внешним нагрузкам и повреждаются гораздо легче. Авторы исследования подчёркивают, что решающим фактором является именно длительность воздействия, а не разовая высокая доза.

Это открытие может стать ключом к ранней диагностике: в будущем врачи смогут выявлять пациентов из группы риска ещё до появления первых клинических симптомов заболевания.

Московский комсомолец