Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Улучши работу мозга
В пресс-службе Уральского федерального университета (УрФУ) пояснили «МК», что учёные, участвовавшие в исследовании, сообщили о данных Всемирной федерации неврологии: в мире 3,4 миллиарда человек (более 40 % населения) живут с неврологическими заболеваниями, и для многих лечение или ранняя диагностика остаются недоступными.

Печально, что далеко не все знают: умственные способности начинают угасать приблизительно с 30 лет. Однако исследователи выяснили, что можно самостоятельно улучшить работу мозга, даже в преклонном возрасте.

Завлаб нейротехнологий УрФУ Александр Котюсов рассказал, что участникам исследования поручили решать задания, которые занимали 5–15 минут ежедневно. Учёные отслеживали ясность мозга (способность рассуждать, запоминать, решать проблемы), связность (умение взаимодействовать с людьми, ставить цели в жизни), эмоциональную устойчивость (уровень стресса, тревоги, настроение).

Наблюдаемые соблюдали режим сна, учились управлять стрессом и другим полезным привычкам. В результате за три года показатели улучшились у всех, независимо от возраста и уровня образования.

Котюсов отметил, что испытуемые, активно выполнявшие упражнения и внедрявшие полезные привычки, добились большего прогресса, чем менее активные участники эксперимента. Учёные сделали вывод: о мозге никогда не поздно начать заботиться, и здоровье мозга определяется не только возрастом, но и нашими привычками.

Для нормальной работы мозга важен хороший сон — от 7 до 9 часов в тёмном и прохладном помещении. Перед сном не стоит сидеть за компьютером или пользоваться смартфонами, читать в них плохие новости.

Также необходимо правильное питание: если в рационе много овощей и мало сахара и соли, то риск снижения ментальной активности снижается. Физическая активность — ещё одно важное условие.

Она должна быть регулярной, а не разовой. Кроме того, не стоит прекращать познавательную деятельность: изучать языки, узнавать новое.

И тогда мозг заработает лучше.

Московский комсомолец

Нейросеть
Объясняет учёный: почему вымерли динозавры
Филипп Клейс, геолог, объяснил, что углеродистые хондриты класса CO отличаются от обычных музейных образцов.

Именно такой редкий и удалённый астероид столкнулся с Землёй, что подчёркивает, насколько не повезло динозаврам. Юпитер обычно защищает нас, отбрасывая большинство космических объектов обратно в космос, но в этот раз астероид ускользнул от его защиты и направился к Земле.

Исследователи проанализировали образцы с границы мела и палеогена (K-Pg) из Дании, Испании и Италии. Они сравнили их с одиннадцатью различными углеродистыми хондритами из разных подгрупп.

Учёные сосредоточились на изотопах никеля, которые в метеоритах содержатся в гораздо более высоких концентрациях, чем в земной коре. Оказалось, что у каждого типа камня свой изотопный «отпечаток».

Этот анализ исключил большинство других потенциальных кандидатов, включая хондриты Могеи, которые ранее чаще всего упоминались в литературе. Ранее считалось, что основным фактором вымирания была сера, которая испарилась в атмосфере, закрыла солнце и выпала кислотными дождями, отравляя почвы и океаны на тысячелетия.

Однако орнанские хондриты содержат гораздо меньше летучих веществ, включая углерод, воду и особенно серу, чем другие классы метеоритов. Поэтому роль серы в вымирании была преувеличена.

Главным фактором, по словам Клейса, стали мелкие обломки, поднятые в воздух, которые блокировали солнечный свет и создали ядерную зиму, погубившую растительность и крупных животных. Время года также сыграло свою роль — удар пришёлся на разгар весны в Северном полушарии, что снизило способность видов к восстановлению.

Московский комсомолец

Учёный изучает электрические сигналы мха
Энди Адамацки, специалист по информатике, ранее исследовал вычислительные способности слизевиков и мицелиальных сетей.

Теперь его внимание привлёк вид Brachythecium rutabulum. Учёный собрал образцы в лесах Северного Сомерсета в Великобритании и поместил в них электроды для мониторинга электрической активности в течение нескольких дней.

Адамацки обнаружил, что мховые подушки, состоящие из множества отдельных клонов одного растения, демонстрируют «богатый набор электрических событий». Среди них — быстрые колебательные всплески, медленные ритмические волны и высокоамплитудные потенциалы действия, которые почти неотличимы от сигналов, передаваемых нейронами.

Сигналы не оставались локальными, а распространялись по всей колонии. Это указывает на то, что мох работает как единая взаимосвязанная система, а не просто набор независимых клеток.

Учёный признаёт, что его работа имеет ограничения, например, отсутствие отрицательных контрольных записей на инертной подложке и возможное влияние влажности или микробных загрязнений. Однако полученные данные всё равно выглядят революционно.

Они указывают на существование у мхов примитивной, но удивительно сложной системы передачи информации, подобной той, что мы обычно связываем с нервной тканью. Мхи лишены развитой сосудистой системы, их листья имеют толщину всего в одну клетку, у них нет корней, и они не могут вырасти выше нескольких сантиметров.

Однако именно эта простота позволила им развить альтернативные способы координации внутри колонии, используя электрические сигналы для синхронизации физиологических процессов или даже для реагирования на внешние раздражители. Адамацки предполагает, что эта «многоуровневая организация» может сделать мох идеальным кандидатом для создания энергоэффективных живых субстратов, способных выполнять сенсорные функции или даже участвовать в биогибридных вычислениях.

Однако до практического применения потребуется огромное количество дополнительных исследований, которые подтвердят, действительно ли мох способен обрабатывать информацию так, как предполагается сейчас.

Московский комсомолец

Солнце наращивает активность
В среду, в 09:35 по московскому времени, специалисты из лаборатории солнечной астрономии Института космических исследований РАН и Института солнечно-земной физики Сибирского отделения РАН зарегистрировали мощный выброс энергии на поверхности Солнца.

Это событие стало самым сильным с 7 июля, то есть за последние две с половиной недели. В начале месяца был зафиксирован предыдущий пик активности, но нынешняя вспышка оказалась интенсивнее.

За последние сутки на Солнце произошло около двух десятков вспышек разной мощности. Эксперты считают, что такая частота говорит о переходе Солнца в более динамичную фазу своего цикла, которая может продлиться несколько недель.

Пока ни одна из вспышек не достигла критического уровня, который мог бы вызвать серьёзные нарушения в работе космической и наземной техники. Все зарегистрированные события происходят в геоэффективных областях — зонах солнечной поверхности, откуда выбросы плазмы и магнитных полей могут достигать Земли.

Эти участки особенно важны для прогнозирования космической погоды, так как влияют на магнитосферу планеты. По оценкам астрономов, прямой угрозы для земных систем сейчас нет, но ситуация мониторится непрерывно.

Учёные предполагают, что усиление солнечной активности связано с ростом числа активных областей на поверхности светила. Это характерно для текущего 25-го цикла.

Возможны повторения подобных всплесков в ближайшее время. Сейчас важно отслеживать направление выбросов корональной массы.

Если плазменное облако достигнет Земли, возможны магнитные бури, которые иногда вызывают сбои в радиосвязи и навигационных системах.

Московский комсомолец

Другие новости