Можно было бы и по-русски, но по-английски меньше расходуется контекст языковой модели, максимальный размер которого в ChatGPT 4.0 ограничен 32 тыс. токенов.
Дело в том, что английский текст при подаче в модель токенизируется по словам, а точнее -- одному английскому слову, как правило, соответствует один или два токена. А русский текст токенизируется даже не по буквам, а по байтам UTF-8. Поэтому порождение русского текста обходится во много раз дороже, чем английского. Ну и максимальный размер диалога на русском языке будет во много раз меньше, чем на английском. вс, 2 апр. 2023 г. в 15:29, Sergei M. Abramov abram_AT_botik.ru < [email protected]>: > Чтож она(он, оно) про рефал не по-русски то? > > Всего доброго, > > Сергей Абрамов > >
