Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Как ящерица пьёт воду?
Пустынная рогатая ящерица Phrynosoma platyrhinos поглощает влагу через кожу, используя микроскопические каналы между чешуйками как капиллярную систему, но механизм попадания воды в рот был загадкой.

Международная группа учёных расшифровала этот процесс и создала на его основе фильтрационную установку. В эксперименте с 12 рептилиями исследователи наносили капли воды на спину ящериц и снимали процесс на высокоскоростную камеру.

Выяснилось, что ящерица совершает асимметричные движения челюстями: медленно раскрывает их, а затем резко смыкает. При медленном открытии водяная плёнка, поднимающаяся по кожным каналам, не стекает, а перемещается к уголкам рта за счёт поверхностного натяжения.

Резкий захват позволяет проглотить накопленную порцию. Учёные подчёркивают, что медленное открывание челюстей минимизирует потери жидкости.

Для проверки гипотезы они собрали физическую модель из двух шарнирно закреплённых стеклянных пластин, имитирующих челюсти. Тесты показали, что при скорости, аналогичной скорости ящерицы, до 85% воды успешно переносится в «ротовую» зону, а лишь 15% остаётся на стенках.

Инженеры адаптировали этот принцип в практическую конструкцию: впитывающая губка в сочетании с механизмом, повторяющим движения челюстей. Губку обработали полимером Nafion, который связывает ионы тяжёлых металлов.

В испытаниях на искусственной загрязнённой почве система не только извлекла воду, но и очистила её примерно на 95%, в том числе от свинца и мышьяка. Разработчики планируют масштабировать установку до автоматизированных модулей для засушливых регионов.

Биологический механизм может стать основой для промышленных станций, обеспечивающих местные сообщества питьевой водой в условиях острого дефицита.

Московский комсомолец

Нейросеть
Астрофизики наблюдают за активной областью на Солнце
На поверхности Солнца астрофизики обнаружили активную область с номером 4478, которая стала крупнейшей в текущем году.

Эта группа пятен быстро разрослась до площади почти в 1200 единиц, превзойдя показатели февральского рекордсмена № 4366, который ранее произвёл мощнейшую вспышку класса X8.1.

Авторы аккаунта Лаборатории солнечной активности ИКИ РАН отмечают, что группа «живёт какой-то своей жизнью: кипит, бурлит, копит энергию, но склонности к крупным взрывам не проявляет». Несмотря на внушительные размеры, область пока ведёт себя довольно пассивно.

Специалисты называют её «интровертом», так как она накопила огромный запас энергии, но не спешит высвобождать её через катастрофические взрывы. Однако уже сейчас фиксируются выбросы слабых облаков плазмы, которые достигнут Земли 30 июня и 1 июля.

Ожидается, что послезавтра эта область выйдет на прямую линию Солнце — Земля. Учёные продолжают внимательно следить за развитием событий, надеясь, что «характер» космического гиганта останется спокойным и не приведёт к разрушительным магнитным бурям, способным повлиять на работу электроники и систем связи на планете.

Московский комсомолец

Бактерия уменьшает тревожность при СРК
В ходе экспериментальных исследований, результаты которых были опубликованы в журнале Translational Psychiatry, учёные обнаружили, что определённый представитель кишечной микрофлоры может снижать тревожность, сопутствующую синдрому раздражённого кишечника.

Эксперименты проводились на животных, но полученные данные могут быть полезны для понимания механизмов развития тревожности у людей с СРК. У пациентов с СРК тревожные состояния фиксируются примерно у 35 %.

Степень беспокойства коррелирует с тяжестью кишечных проявлений. Методы нейровизуализации показали отклонения в активности миндалевидного тела — области мозга, отвечающей за эмоциональные реакции и оценку угроз.

Чтобы подтвердить причинно-следственную связь, учёные смоделировали заболевание у мышей и пересадили им кишечную микробиоту от больных особей. Это вызвало как болевые ощущения в животе, так и тревожное поведение.

Уровень бактерии Phocaeicola vulgatus в кишечнике был снижен как у пациентов, так и у животных. Обратная зависимость оказалась чёткой: чем меньше этой бактерии, тем сильнее выражены беспокойство и нарушения в работе амигдалы.

Генетический анализ показал, что Phocaeicola vulgatus проявляет защитные свойства по отношению к нервной ткани. Когда мышам вводили живую культуру этого микроорганизма, тревожность снижалась, воспалительные процессы в миндалевидном теле ослабевали, а повреждённые нейронные отростки начинали восстанавливаться.

Авторы предполагают, что данная бактерия или синтезируемые ею соединения могут лечь в основу нового класса психобиотических препаратов для пациентов с СРК-Д и сопутствующими тревожными расстройствами. В планах — идентифицировать метаболиты, способные преодолевать гематоэнцефалический барьер и воздействовать на мозговое воспаление.

Также специалисты намерены разработать постбиотики на основе продуктов жизнедеятельности бактерии, чтобы избежать потенциальных рисков, связанных с введением живых культур.

Московский комсомолец

Нейросеть
Учёные изучили базы данных и подтвердили гипотезу
Хандан Денерташ и Линда Партридж изучили крупные современные генетические базы данных.

Они проверяли гипотезу о тени отбора, которая предполагает, что вредные мутации, проявляющиеся в пожилом возрасте, могут обходить естественный отбор. Авторы работы рассказали, что, согласно теории, гены, вредные в молодости, лучше отсеиваются естественным отбором, поскольку от них сильнее зависит, оставит ли живое существо потомство.

Учёные пришли к выводу, что информация о геномах подтверждает гипотезу тени отбора. Эксперты предполагают, что полученные данные помогут лучше понять природу старения и, следовательно, увеличить продолжительность здоровой жизни человека.

Московский комсомолец

Другие новости