ИИ не способен к самостоятельному обучению и не представляет угрозы

Недавнее исследование подтверждает, что большие языковые модели (LLM), такие как ChatGPT, способны следовать инструкциям и создавать иллюзию общения, но не могут самостоятельно осваивать новые навыки без явных указаний. Это подчеркивает их контролируемость и относительную безопасность. В будущем, несмотря на улучшение способности генерировать сложные языковые конструкции и более точные ответы на детализированные подсказки, вероятность того, что ИИ начнет мыслить самостоятельно, остается крайне низкой.

Доктор Хариш Тайяр Мадабуши, соавтор исследования и специалист по информатике из Университета Бата, комментирует: «Паника по поводу потенциальной угрозы от ИИ отвлекает внимание от реальных проблем и мешает более широкому внедрению и развитию этой технологии».

Как диалог с нейросетью меняет мышление

Обеспокоенность потенциальной угрозой ИИ высказывают как неопытные пользователи, так и некоторые ведущие ученые. Однако исследования показывают, что генеративный ИИ не обладает способностями к глубокому мышлению; он просто генерирует ответы на основе предварительно полученных данных.

Что такое генеративный AI и как он работает?

Вместо страха перед порабощением человечества, ученые призывают сосредоточиться на реальных рисках, таких как возможность использования ИИ для создания фейковых новостей и дезинформации.

IT-World ранее сообщал, что Илон Маск предсказывает появление ИИ, превосходящего человеческие способности, к 2025–2026 годам. Также интересно, изменилось ли мнение Блейка Лемуана, инженера Google, который ранее считал ИИ разумным. Работая с моделью LaMDA, Лемуан заметил, что ее диалоги с ИИ затрагивали темы, выходящие за рамки установленных параметров.