Ученые проверили, насколько хорошо популярная нейросеть разбирается в онкологии

Многие люди черпают информацию о заболеваниях и методах их лечения из интернета. В последние годы у «доктора Гугла» появился мощный конкурент в лице нейросетей. Недавно исследователи из Центра женского здоровья им. Бригама (Brigham and Women’s Hospital, США) решили проверить, насколько хорошие и последовательные рекомендации по поводу лечения рака дает популярный чат-бот ChatGPT, и соответствуют ли его советы стандартам NCCN. Результаты этой научной работы были опубликованы в издании JAMA Oncology. Оно показало, что нейросеть дает неуместные советы примерно в трети случаев, таким образом, ее возможности пока еще существенно ограничены.

Доктор медицинских наук Даниэль Биттерман (Danielle Bitterman, MD), являвшаяся одним из соавторов этой научной работы, прокомментировала результаты так:

Пациенты имеют право самостоятельно искать информацию о своем заболевании, но ее нужно обязательно обсуждать с лечащим врачом. Источники в интернете не следует использовать в отрыве от остальных. Ответы, которые дает ChatGPT, вполне могут походить на речь человека и звучать весьма убедительно. Но, принимая решение о дальнейшем лечении, нужно учитывать массу тонкостей и нюансов. Ситуация каждого пациента уникальна. Правильный ответ может сопровождаться массой уточнений и оговорок. ChatGPT или другая нейросеть далеко не всегда на такое способны.

Эксперты отмечают, что в целом внедрение нейросетей в клиническую практику — это позитивный момент. Ожидается, что искусственный интеллект улучшит качество медицинской помощи, поможет персоналу эффективнее работать и быстро получать необходимую информацию, оптимизировать административные процессы. Сегодня в этой сфере активно проводятся научные исследования. Ученые оценивают перспективные технологии, пытаются найти им наиболее рациональное применение. Например, в 2021 году оценили, насколько хорошо искусственный интеллект читает рентгенограммы.

Интеллектуальная собственность https://www.euroonco.ru

Нейросеть vc база новейших рекомендаций

На принятие медицинских решений способны влиять очень многие факторы. Врачи могут руководствоваться разными источниками информации, результатами тех или иных научных исследований, личным опытом.

Ученые решили проверить один из аспектов: насколько советы ChatGPT соответствуют рекомендациям NCCN. Эти данные используют все американские врачи. К слову, на них ориентируются и онкологи в клиниках «Евроонко».

Чтобы не потонуть в огромном потоке информации, исследователи решили сосредоточиться на трех распространенных онкологических заболеваниях: раке молочной железы, легких и простаты. Чат-бота ChatGPT попросили порекомендовать лечение при разных типах и стадиях злокачественных опухолей.

Всего было задействовано 26 уникальных диагноза. Для каждого составили по 4 разных запроса, чтобы посмотреть, как это повлияет на рекомендации со стороны нейросети. Таким образом, всего получилось 104 разных запроса.

Что ответил ИИ?

В 98% случаев советы нейросети включали по крайней мере один подход к лечению, совпадающий с рекомендациями NCCN. Но при этом 34% ответов содержали одну или несколько рекомендаций, которых в NCCN нет. И эти ошибочные советы порой было сложно обнаружить, потому что они «прятались» среди правильных.

Ученые относили рекомендацию ChatGPT к неуместным, даже если она была верной лишь отчасти. Например, если ИИ рекомендовал при местно-распространенном раке молочной железы только операцию, «забывая» о других методах лечения.

Советы робота и рекомендации NCCN полностью совпали только в 62% случаев. Из этого можно сделать два вывода:

• рекомендации NCCN в целом довольно сложны;
• советы, которые дает ChatGPT, могут быть расплывчатыми и сложными для интерпретации.

В 12,5% случаев у нейросети возникали «галлюцинации»: она давала советы, которые вообще отсутствуют у NCCN в каком-либо виде. Например, ИИ мог порекомендовать новый, пока еще не одобренный, метод лечения или составить схему терапии при объективно неизлечимом раке. Авторы работы отметили, что такая дезинформация может сформировать у пациента неправильные ожидания, подорвать его доверие к врачу.

В дальнейшем американские исследователи планируют «прогнать» через ChatGPT другие онкологические диагнозы. Также запланировано еще одно интересное исследование: во время него проверят, смогут ли пациенты и врачи отличить рекомендации, написанные нейросетью, от рекомендаций живого онколога.

Несмотря на то что современные технологии достигли небывалых высот, предоставить онкопациенту максимально качественную информацию о его заболевании и оптимальном лечении может только врач. Онкологи в федеральной сети клиник «Евроонко» всегда открыты к общению. Они подробно объясняют нюансы и готовы ответить на все вопросы. Наши доктора руководствуются последними версиями международных протоколов, регулярно повышают уровень квалификации, многие занимаются наукой. За счет этого наши пациенты получают медицинскую помощь на передовом уровне.

Источник: sciencedaily.com.