По прогнозам сооснователя компании Anthropic, Джека Кларка, к 2028 году на рынке могут появиться искусственные интеллектуальные системы, способные самостоятельно разрабатывать и обучать своих преемников без вмешательства человека. Это заявление вызывает глубокие размышления о потенциальных последствиях автоматизации ИИ-разработки. В данной статье мы рассмотрим основные аспекты этого прогноза и его значение для будущего технологий.
Самообучение ИИ: Реальность или фантазия?
- Прогнозы Джека Кларка: Кларк считает вероятность появления таких систем в ближайшие два года равной 60%. Он описывает сценарий, где ИИ сможет самостоятельно ставить исследовательские задачи, проектировать эксперименты и оптимизировать обучение.
- Динамика бенчмарков: Его вывод основан на анализе нескольких тестов, таких как SWE-Bench и CORE-Bench, где современные модели демонстрируют значительные улучшения в выполнении инженерных задач.
Рост автономности ИИ-систем
- Увеличение времени выполнения задач: Согласно данным METR, в 2022 году ИИ справлялся с задачами за десятки секунд, а к 2025 году этот показатель вырос до шести часов. Это свидетельствует о значительном увеличении автономности моделей.
- Распространение агентных инструментов: Такие инструменты позволяют моделям удерживать цели и исправлять ошибки без человеческого вмешательства, что упрощает процесс делегирования этапов исследования.
Почему это важно для разработки ИИ?
- Цикл разработки ИИ: Современные модели уже способны выполнять целые фрагменты традиционного цикла разработки — от изучения материалов до проверки метрик.
- Специализация в задачах: Например, ИИ начинает применяться для дизайна GPU-ядр и дообучения моделей, что приводит к улучшению производительности и ускорению процессов разработки.
Креативность и научный вклад ИИ
- Креативность нейросетей: Кларк отмечает, что современные LLM не способны генерировать новые идеи, однако могут автоматизировать значительную часть исследований в области ИИ.
- Признаки научного вклада: Ранние примеры математического вклада от ИИ показывают его потенциал в научных исследованиях — например, успешное решение задач Эрдеша с помощью инструмента Gemini.
Если прогноз Джека Кларка окажется верным, мир столкнется с не только технологическим скачком, но и важнейшими вопросами безопасности и роли человеческого труда в условиях полной автоматизации разработки ИИ.
Категории:
