Почему ChatGPT делает ошибки в математике: разбор проблем LLM

Ошибки ChatGPT в математике: личный опыт

Почему у ChatGPT так плохо с математикой? ИИ скоро обещает стать умней человека во всем, но все еще не может делать даже базовые математические вещи.

На днях попросил голосового ассистента ChatGPT посчитать до 50, две ошибки. После ещё раз, до 100 — снова ошибки. ChatGPT пропускает числа, особенно не любит 47, 87, один раз даже забыл 10.

Примеры математических ошибок ChatGPT

Если поискать в интернете, можно найти много примеров с ошибками в базовых вычислениях, простых задачках, подсчете количества слов, логических математических рассуждениях и так далее.

Почему LLM плохо справляются с математикой

Как так? Как и все LLM (большие языковые модели), чат угадывает следующий символ или токен на основе примеров которые встречал раньше. Для LLM математика — это текст, а не численные операции. В основе «разума» ИИ лежат текстовые, а не логические шаблоны. Да и обучаются чаты на огромных объемах текста, а не математических базах.

Будущее ИИ и математика

Так что, пока доверия мало, но есть надежда на будущее.

А вы встречались с математическими ошибками ИИ? Пишите в комментариях