The OpenNET Project / Index page

[ новости/++ | форум | wiki | теги ]

форумы  правила/FAQ  поиск  регистрация  вход/выход  слежка  RSS
"Отказаться от UTF-8"
Вариант для распечатки  
Пред. тема | След. тема 
Форум Открытые системы на сервере (Оптимизация и тюнинг)
Изначальное сообщение [ Отслеживать ]

"Отказаться от UTF-8"  +4 +/
Сообщение от Sergey Maslennikov (ok) on 06-Авг-17, 16:51 
Было бы логично для хранения русских текстов использовать двуязычную кодировку, и только предполагая ( > 2 )-язычность, -- UTF.  А существует ли это или обратное утверждение (UTF в любом случае) в строгом, т. е., доказанном виде?

Логичность утверждения можно было бы показать предположив, что хранимые тексты время от времени обрабатывают программами, которые распаковывают их, конвертируют во что-то равнодлинное на символ, что-то с этим делают, конвертируют в исходную кодировку и запаковывают. Времена конвертаций, распаковок и запаковок в случае хранения в UTF-8 больше, чем при хранении, скажем, в KOI8-R.

Если 300 "Анн Карениных" в одном файле (АК) конвертировать iconv из исходной кодировки в UTF-32 и обратно, то в случае исходной кодировки UTF-8 эта операция занимает в 1.3 раза больше времени, чем в случае исходной кодировки KOI8-R.

Если, 200 АК сжимать xz и разжимать обратно, то в случае кодировки UTF-8 эта операция занимает в 2 раза больше времени, чем в случае исходной кодировки KOI8-R.

300 АК и 200 АК -- чтобы время теста было порядка нескольких минут.

Всё это верно для моего лаптопа, конечно, но может оказаться, что и многие другие компьютеры покажут примерно такой же результат -- для UTF-8 операции паковки и конвертации окажутся энергозатратнее, чем для двуязычных кодировок. Или наоборот. Возможен ли строгий ответ?

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения по теме [Сортировка по времени | RSS]


1. "Отказаться от UTF-8"  –1 +/
Сообщение от ыы on 07-Авг-17, 02:19 
Приведенное вами условие (распаковка) - надуманно, высосано из пальца и взято с потолка. И не имеет никакого отношения к строгим доказательствам чего бы то ни было.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

2. "Отказаться от UTF-8"  +2 +/
Сообщение от Sergey Maslennikov (ok) on 07-Авг-17, 07:50 
> ... условие (распаковка) - надуманно

А понимаешь, если не паковать, то ответ тривиален. В случае русского языка UTF-8 уступает вдвое любой распространённой двуязычной кодировке по занимаемому месту на диске и энергозатратам на копирование и передачу. Ты можешь почитать об этом, например, в Википедии [1] или здесь же [2].

Причина в том, что в распакованном виде в UTF-8 русским буквам отведены 2-байтные коды в отличие от английских и большей части букв западноевропейских языков, которые записывают 1-байтными кодами.

[1] https://en.wikipedia.org/wiki/UTF-8#Comparison_with_single-b...
[2] https://www.opennet.ru/openforum/vsluhforumID1/51935.html

Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

3. "Отказаться от UTF-8"  +1 +/
Сообщение от eRIC (ok) on 07-Авг-17, 08:49 
>> ... условие (распаковка) - надуманно
> А понимаешь, если не паковать, то ответ тривиален. В случае русского языка
> UTF-8 уступает вдвое любой распространённой двуязычной кодировке по занимаемому месту
> на диске и энергозатратам на копирование и передачу. Ты можешь почитать
> об этом, например, в Википедии [1] или здесь же [2].
> Причина в том, что в распакованном виде в UTF-8 русским буквам отведены
> 2-байтные коды в отличие от английских и большей части букв западноевропейских
> языков, которые записывают 1-байтными кодами.
> [1] https://en.wikipedia.org/wiki/UTF-8#Comparison_with_single-b...
> [2] https://www.opennet.ru/openforum/vsluhforumID1/51935.html

тогда в чем проблема, если знаете что под Unicode кодировку выделяются 2 байта и более? (UTF-8, UTF-16, UTF-32 и т.д.). Не нравится Unicode, не используйте, за универсальность нужно чем-то жертвовать

>английских и большей части букв западноевропейских языков, которые записывают 1-байтными кодами

потому что большинство этих букв покрываются ASCII таблицей, и в Unicode таблице тоже соответствуют первым 128 или 255 символам

Ответить | Правка | ^ к родителю #2 | Наверх | Cообщить модератору

13. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 07-Авг-17, 18:17 
> в чем проблема, если знаете

Не помогает :(

> под Unicode кодировку выделяются 2 байта и более ...

Под кириллическую букву. И вот если выделенное вместе с запихнутыми туда кодами букв запаковать, то получите случай, проблема для которого задана в исходном посте.

Ответить | Правка | ^ к родителю #3 | Наверх | Cообщить модератору

4. "Отказаться от UTF-8"  +/
Сообщение от ПавелС email(ok) on 07-Авг-17, 10:25 
>> ... условие (распаковка) - надуманно
> А понимаешь, если не паковать, то ответ тривиален. В случае русского языка
> UTF-8 уступает вдвое любой распространённой двуязычной кодировке по занимаемому месту
> на диске и энергозатратам на копирование и передачу. Ты можешь почитать
> об этом, например, в Википедии [1] или здесь же [2].
> Причина в том, что в распакованном виде в UTF-8 русским буквам отведены
> 2-байтные коды в отличие от английских и большей части букв западноевропейских
> языков, которые записывают 1-байтными кодами.
> [1] https://en.wikipedia.org/wiki/UTF-8#Comparison_with_single-b...
> [2] https://www.opennet.ru/openforum/vsluhforumID1/51935.html

Современность это UTF-8. Переданный файл при наличии шрифтов правильно отобразиться в любом регионе мира. В случае например с koi8-r это уже будет затруднительно. Процессоры и гигабайты уже не проблема.

Ответить | Правка | ^ к родителю #2 | Наверх | Cообщить модератору

6. "Отказаться от UTF-8"  +1 +/
Сообщение от Andrey Mitrofanov on 07-Авг-17, 13:21 
> регионе мира. В случае например с koi8-r это уже будет затруднительно.
> Процессоры и гигабайты уже не проблема.

А экзабайты им.депутата Яровой?....

Ответить | Правка | ^ к родителю #4 | Наверх | Cообщить модератору

7. "Отказаться от UTF-8"  +2 +/
Сообщение от ыы on 07-Авг-17, 13:43 
>> регионе мира. В случае например с koi8-r это уже будет затруднительно.
>> Процессоры и гигабайты уже не проблема.
> А экзабайты им.депутата Яровой?....

Сформированы данными не имеющими к описанной проблеме отношения.

Ответить | Правка | ^ к родителю #6 | Наверх | Cообщить модератору

8. "Отказаться от UTF-8"  +/
Сообщение от Anonimus (??) on 07-Авг-17, 13:46 
>> регионе мира. В случае например с koi8-r это уже будет затруднительно.
>> Процессоры и гигабайты уже не проблема.
> А экзабайты им.депутата Яровой?....

А вот тут тогда вступает закон - а где это смогут прочитать? Без перекодировщиков koi8-r
на Windows прочитать не смогут (а большинство пользователей как раз на ней), а UTF читаема. И опять же на сегодняшний момент большинство программ пишут свои сообщения в UTF, то есть у вас появляются накладные расходы изначального перекодирования UTF -> koi8-r, затем обработка и хранение, а потом опять накладные расходы перекодирования koi8-r -> UTF (для отображения). И не факт что конвертация у вас нормально пройдет (ничего не потеряется, нигде не застопорится).

Ответить | Правка | ^ к родителю #6 | Наверх | Cообщить модератору

9. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 07-Авг-17, 17:15 
> в любом регионе мира. В случае например с koi8-r это уже
> будет затруднительно.

Ну, мы им инструкцию в регион зашлём. На utf-8 напишем, чтоб поняли уже наконец проблему нашу.

Ответить | Правка | ^ к родителю #4 | Наверх | Cообщить модератору

10. "Отказаться от UTF-8"  +1 +/
Сообщение от Andrey Mitrofanov on 07-Авг-17, 17:36 
>> в любом регионе мира. В случае например с koi8-r это уже
>> будет затруднительно.
> Ну, мы им инструкцию в регион зашлём. На utf-8 напишем, чтоб поняли
> уже наконец проблему нашу.

У вас там никто задачу сформулировать не может? "если бы, да кабы", "да быстрее/бедленне, да больше/меньше", "да керосина сэкономить/потратить", "да в регионах не поймут/объясним".

Секретное военное оружие -- прямо на поенете дизайните? Или думскую сис-му управления конт-тентами? Или гипертекстовый "Российский" инетернет?  Или просто в поисках чего б "такого" накрутить заказчику...

Вопросы надо задавать не про "вот тут у меня байтики, два или полтора". Задача ставится не так.

Ответить | Правка | ^ к родителю #9 | Наверх | Cообщить модератору

11. "Отказаться от UTF-8"  +/
Сообщение от Sergey Maslennikov (ok) on 07-Авг-17, 17:43 
> байтики, два или полтора

300 АК не хотите? Исходное сообщение читали?

Ответить | Правка | ^ к родителю #10 | Наверх | Cообщить модератору

15. "Отказаться от UTF-8"  +1 +/
Сообщение от Andrey Mitrofanov on 07-Авг-17, 19:08 
>> байтики, два или полтора
> 300 АК не хотите? Исходное сообщение читали?

Архиватор выбирается по "качелям" сжатие/время. Ну, кому, мож, и керосин экономить надо...  Этих разнообразных архиваторов -- десятки.

И _даже_ ключами xz можно весьма разные результаты получать -- сравните на своих карениных xz -1, -3, 5, -5, -1e, -3e, -9e по времени и сжатию.

Откуда у Вас взялось "странное" желание делать архиватор-в-архиваторе (кодировкой "второй байтик" выжимать)? Импортозамещение, "отсель грозить мы будем шведам"??...

Ещё раз: я хочу не 200 или 300 АК-47, а постановки задачи: с таких то ограничекниях надо достичь $того-то.  А, впрочем, не.... зачем оно мне? ...не-не-не, не хочу.

Но чем же было "Импортозамещение" в эмбрионе слегка интересно: "программистские" искривления очень забавны.  Наверное... Я надеюсь.

Ответить | Правка | ^ к родителю #11 | Наверх | Cообщить модератору

52. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 09-Авг-17, 12:51 
> Этих разнообразных архиваторов -- десятки.

xz был у меня на лаптопе.

> И _даже_ ключами xz можно весьма разные результаты получать -- сравните на
> своих карениных xz -1, -3, 5, -5, -1e, -3e, -9e по
> времени и сжатию.

Ну, я внёс свои две копейки. Могу ещё добавить, что распространённая программка sort сортирует UTF-8 в 1.7 раза медленнее, чем KOI8-R. Другие тоже могли бы что-то в этом направлении сделать, если нужным сочтут.

Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

20. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 08-Авг-17, 08:40 
> при наличии шрифтов правильно отобразиться в любом регионе мира.

Согласен с вами. Кириллический текст UTF-8 не отобразится, если в шрифте кириллицы нет. А если есть, то упомянутая вами KOI8-R отобразится быстрее, чем UTF-8, т. к. программа, которая будет отображать, тексты любых исходных кодировок сначала конвертирует в тексты унифицированной кодировки, с которыми потом и будет что-то делать -- отображать, например. Обычно это -- 4-байтная Unicode -- что-то типа UTF-32 (хороша тем, что длина кода не меняется от алфавита к алфавиту). Всё это, однако, нужно доказать.

У меня есть _подозрение_ (не доказательство и даже не утверждение), что конвертация в унифицированное представление и обратно в среднем происходит быстрее, если исходная кодировка однобайтовая (упомянутая вами KOI8-R, например). Подозрение основано на том, что популярные программы из популярного дистрибутива Debian на моём лаптопе конвертируют KOI8-R -> UTF-32 -> KOI8-R быстрее, чем UTF-8 -> UTF-32 -> UTF-8. Основание слабовато, поэтому исходный пост -- это конкретный вопрос (можно ли доказать хотя бы это?), а не то, на что здесь пока пытаются отвечать.

Ответить | Правка | ^ к родителю #4 | Наверх | Cообщить модератору

21. "Отказаться от UTF-8"  +/
Сообщение от ыы on 08-Авг-17, 09:49 
>[оверквотинг удален]
> что-то типа UTF-32 (хороша тем, что длина кода не меняется от
> алфавита к алфавиту). Всё это, однако, нужно доказать.
> У меня есть _подозрение_ (не доказательство и даже не утверждение), что конвертация
> в унифицированное представление и обратно в среднем происходит быстрее, если исходная
> кодировка однобайтовая (упомянутая вами KOI8-R, например). Подозрение основано на том,
> что популярные программы из популярного дистрибутива Debian на моём лаптопе конвертируют
> KOI8-R -> UTF-32 -> KOI8-R быстрее, чем UTF-8 -> UTF-32 ->
> UTF-8. Основание слабовато, поэтому исходный пост -- это конкретный вопрос (можно
> ли доказать хотя бы это?), а не то, на что здесь
> пока пытаются отвечать.

Смутные сомнения терзают меня.

Вот вам строгое доказательство:

Если m -  "байтовость" кодировки (целые числа больше нуля)
и  r- затраты на единичное преобразование одного байта
то m*r для многобайтных кодировок будет больше m*r для однобайтных

Вы этого хотели?
Вы в пятом или четвертом классе учитесь?

Ответить | Правка | ^ к родителю #20 | Наверх | Cообщить модератору

22. "Отказаться от UTF-8"  +/
Сообщение от Sergey Maslennikov (ok) on 08-Авг-17, 10:30 
> Вы в пятом или четвертом классе учитесь?

А что, если бы я в четвёртом классе учился, вы не стали бы со мной разговаривать?

Вот недавно физтеховские школьники выиграли международную олимпиаду по физике -- каждый взял высшую медаль. Смогли бы вы обыграть этих "детишек" в решении задач, а пусть даже, по программированию?

> Вот вам строгое доказательство

И вот смотрите. utf-8, вообще говоря, кодировка переменной длины. Вероятно, алгоритм, который разбирает текст в ней, не знает какой длины придёт к нему следующий код. Где это в вашем "доказательстве"?

> Вы этого хотели?

Не совсем.

Ответить | Правка | ^ к родителю #21 | Наверх | Cообщить модератору

23. "Отказаться от UTF-8"  +1 +/
Сообщение от Andrey Mitrofanov on 08-Авг-17, 11:15 
> Вот недавно физтеховские школьники выиграли международную олимпиаду по физике -- каждый
> взял высшую медаль. Смогли бы вы обыграть этих "детишек" в решении
> задач, а пусть даже, по программированию?

Ладно, рассказывай:

* в каком классе / на каком курсе учишься, по какой специальности / безработный / на каникулах / на какой должности работаешь
  + форум, кажется, тут занят удалённым "программированием" с не-программистом, я наконец получу ответ хоть на один вопрос?? //да, кстати, я не программист и не буду таковым по должности: образование не позволяет. но кидане пальцами коллегами "по не-цеху" изучаю с интересом!

* откуда взял интересные мысли из первого поста -- неужели сам придумал?!

* что сказал начальник / воспитательница мариванна / мама-папа, прочитав первый пост? если не читал(а) -- дай прочитать, сказанное внимательно запиши?

* знаком ли ты лично с "физтеховскими школьниками" и какое отношение имеешь к их Победе? Какое отношение имеет их Победа к твоим полутора-байтным затруднениям из первого поста? Обоснуй.

Ответить | Правка | ^ к родителю #22 | Наверх | Cообщить модератору

26. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 08-Авг-17, 15:36 
> знаком ли ты лично с "физтеховскими школьниками"

Нет.

> какое отношение имеешь к их Победе?

Завидую.

> Какое отношение имеет их Победа к

предположению о моём классе (4-м или 5-м)?

Мне кажется, что эти товарищи могли бы "навалять" ыы, как, впрочем, и мне в решении задач по программированию, несмотря на то, что они моложе нас. Использовать для принижения сравнение со школьником неправильно -- нужно какое-то другое.

Ответить | Правка | ^ к родителю #23 | Наверх | Cообщить модератору

27. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 08-Авг-17, 15:41 
> удалённым "программированием" с не-программистом

Да, верно.

Ответить | Правка | ^ к родителю #23 | Наверх | Cообщить модератору

24. "Отказаться от UTF-8"  –1 +/
Сообщение от ыы on 08-Авг-17, 11:33 
>> Вы в пятом или четвертом классе учитесь?
> А что, если бы я в четвёртом классе учился, вы не стали
> бы со мной разговаривать?

Ваш вопрос - бестолковый. Очевидно же что преобразование многобайтной кодировки может занимать на конкретном железе большее время просто потому что в многобайтной кодировке- больше байт. Объем лядь, данных больше для переработки И ПОЭТОМУ лять, оно обрабатывается дольше. Строгое доказательство -  m(многобайтная)*r > m(однообайтная)*r
Например 4*1 > 1*1  поскольку проведя умножение получим  4>1

НО! На конкретном железе. Поскольку в зависимости от железа - обработку многобайтных данных можно сделать столь же быстрой как и однобайтных. Например можно реализовать в железе любую операцию такого преобразования за один такт. И тогда ваш тест показал бы  что конвертация строк из многобайтных символов занимают не больше времени чем если бы  символы были однобайтные.. и вы долго думали бы почему.

Такой вопрос мог бы задать школьник...
Ответ на ваш вопрос- элементарен, банален,
Суть вашего вопроса - наивна и бестолкова.

А разница в том учитесь ли вы в школе или уже серьезный дядечка мучающийся бездельем - в том, что если относится к вашему вопросу серьезно- то он вообще говоря странный.
Но если вы школьник- то такой бестолковый вопрос в общем... ну.. формулу строгого доказательства я вам привел.

> Вот недавно физтеховские школьники выиграли международную олимпиаду по физике -- каждый
> взял высшую медаль. Смогли бы вы обыграть этих "детишек" в решении
> задач, а пусть даже, по программированию?

Вы из их числа?
Надеюсь они не стали бы задавать тот вопрос что задали вы :)

>> Вот вам строгое доказательство
> И вот смотрите. utf-8, вообще говоря, кодировка переменной длины. Вероятно, алгоритм, который
> разбирает текст в ней, не знает какой длины придёт к нему
> следующий код. Где это в вашем "доказательстве"?

Ну, скажу что у вас плохо с абстрактным мышлением. Для доказательства - переменная длинна или постоянная  - не имеет значения.

Для каждой любой итерации - m(многобайт)*r > m(одинбайт)*r
Любое ваше надуманное "доказательство путем перепаковки АК" упрется в эту формулу.

Ответить | Правка | ^ к родителю #22 | Наверх | Cообщить модератору

28. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 08-Авг-17, 17:00 
> Для каждой любой итерации - m(многобайт)*r > m(одинбайт)*r

m(многобайт)*r >= m(одинбайт)*r

Вы, конечно, можете считать меня сволочью и недоумком, но мне нужна была референсная нитка о том, что двуязычные кодировки могут иметь такое же право на существование, как UTF-8, и я её с вашей помощью сделал.

Ответить | Правка | ^ к родителю #24 | Наверх | Cообщить модератору

30. "Отказаться от UTF-8"  –1 +/
Сообщение от ыы on 08-Авг-17, 17:31 
>> Для каждой любой итерации - m(многобайт)*r > m(одинбайт)*r
> m(многобайт)*r >= m(одинбайт)*r
> Вы, конечно, можете считать меня сволочью и недоумком, но мне нужна была
> референсная нитка о том, что двуязычные кодировки могут иметь такое же
> право на существование, как UTF-8, и я её с вашей помощью
> сделал.

m(многобайт)*r > m(одинбайт)*r

Ответить | Правка | ^ к родителю #28 | Наверх | Cообщить модератору

32. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 08-Авг-17, 17:37 
> m(многобайт)*r > m(одинбайт)*r

Я имел в виду, что английские буквы, запятые, пробелы и знаки всякие в многобайтной кодировке одним байтом кодированы. Если текст состоит только из них, то

m(многобайт)*r == m(одинбайт)*r

Ответить | Правка | ^ к родителю #30 | Наверх | Cообщить модератору

36. "Отказаться от UTF-8"  –1 +/
Сообщение от ыы on 08-Авг-17, 18:29 
>> m(многобайт)*r > m(одинбайт)*r
> Я имел в виду, что английские буквы, запятые, пробелы и знаки всякие
> в многобайтной кодировке одним байтом кодированы. Если текст состоит только из
> них, то
> m(многобайт)*r == m(одинбайт)*r

Нет

m(многобайт)*r > m(одинбайт)*r

Уясните наконец как выглядит текст в многобайтной кодировке и не занимайтесь фантазированием.

Ответить | Правка | ^ к родителю #32 | Наверх | Cообщить модератору

37. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 08-Авг-17, 18:39 
> Уясните наконец как выглядит текст в многобайтной кодировке и не занимайтесь фантазированием.

The first 128 characters of Unicode, which correspond one-to-one with ASCII, are encoded using a single octet with the same binary value as ASCII, so that valid ASCII text is valid UTF-8-encoded Unicode as well [1].

[1] https://en.wikipedia.org/wiki/UTF-8

Ответить | Правка | ^ к родителю #36 | Наверх | Cообщить модератору

38. "Отказаться от UTF-8"  –1 +/
Сообщение от ыы on 08-Авг-17, 18:57 
>> Уясните наконец как выглядит текст в многобайтной кодировке и не занимайтесь фантазированием.
> The first 128 characters of Unicode, which correspond one-to-one with ASCII, are
> encoded using a single octet with the same binary value as
> ASCII, so that valid ASCII text is valid UTF-8-encoded Unicode as
> well [1].
> [1] https://en.wikipedia.org/wiki/UTF-8

Откройте Notepad
напечатайте букву a (английскую)
сохраните как utf-8
снова сохраните как ansi

откройте проводник и сравните размер файлов..
Крепко задумайтесь, той ли работой вы занимаетесь.

Ответить | Правка | ^ к родителю #37 | Наверх | Cообщить модератору

39. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 08-Авг-17, 19:03 
> Откройте Notepad

Ой.

Ответить | Правка | ^ к родителю #38 | Наверх | Cообщить модератору

40. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 09-Авг-17, 09:10 
> Откройте Notepad

Этот ваш Notepad, видимо, что-то специальное для программистов. У нас-то, простых людей, таких программ нет. Уж, звиняйте.

> напечатайте букву a (английскую)
> сохраните как utf-8
> снова сохраните как ansi

А вы не могли бы добавить к букве 'a' ещё буковку 'b' и сообщить нам насколько поменяется длина файла?

Ну, или, -- написать нам сюда коды из вашего файла с буковкой 'a' в исчислении с удобным для вас основанием? -- мы тогда расскажем, что там с вашим Notepad-ом не так.

Ответить | Правка | ^ к родителю #38 | Наверх | Cообщить модератору

41. "Отказаться от UTF-8"  +/
Сообщение от ыы on 09-Авг-17, 10:20 
>> Откройте Notepad
> Этот ваш Notepad, видимо, что-то специальное для программистов. У нас-то, простых людей,
> таких программ нет. Уж, звиняйте.

Это ваши проблемы. Не мои :)

>> напечатайте букву a (английскую)
>> сохраните как utf-8
>> снова сохраните как ansi
> А вы не могли бы добавить к букве 'a' ещё буковку 'b'
> и сообщить нам насколько поменяется длина файла?

на 1 байт естественно. А вы ожидали чегото еще?

> Ну, или, -- написать нам сюда коды из вашего файла с буковкой
> 'a' в исчислении с удобным для вас основанием? -- мы тогда
> расскажем, что там с вашим Notepad-ом не так.

Сомневаюсь что вы понимаете о чем говорите.

Ответить | Правка | ^ к родителю #40 | Наверх | Cообщить модератору

42. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 09-Авг-17, 10:26 
> на 1 байт естественно. А вы ожидали чегото еще?

Ну, тогда в любой кодировке байтовость одинаковая. Или как?

Ответить | Правка | ^ к родителю #41 | Наверх | Cообщить модератору

44. "Отказаться от UTF-8"  +/
Сообщение от ыы on 09-Авг-17, 11:04 
>> на 1 байт естественно. А вы ожидали чегото еще?
> Ну, тогда в любой кодировке байтовость одинаковая. Или как?

Интересная мысль :)

Без указания BOM - и при наличии только английских букв - вам не удастся доказать что используемая кодировка - UTF-8.

Хотя.. можете попробовать :)

Ответить | Правка | ^ к родителю #42 | Наверх | Cообщить модератору

45. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 09-Авг-17, 11:10 
> Без указания BOM - и при наличии только английских букв - вам
> не удастся доказать что используемая кодировка - UTF-8.
> Хотя.. можете попробовать :)

Очень просто.

The first 128 characters of Unicode, which correspond one-to-one with ASCII, are encoded using a single octet with the same binary value as ASCII, so that valid ASCII text is valid UTF-8-encoded Unicode as well [1].

Если она ASCII, то она же и UTF-8. Можно наоборот, если хотите :)

BOM не обязательна при хранении и обработке текста.

[1] https://en.wikipedia.org/wiki/UTF-8


Ответить | Правка | ^ к родителю #44 | Наверх | Cообщить модератору

51. "Отказаться от UTF-8"  +1 +/
Сообщение от ыы on 09-Авг-17, 12:51 
> Если она ASCII, то она же и UTF-8. Можно наоборот, если хотите
> :)

Человеку у которого ASCII она же UTF-8 и наоборот - сам черт не брат...

Ответить | Правка | ^ к родителю #45 | Наверх | Cообщить модератору

54. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 09-Авг-17, 12:55 
> Человеку у которого ASCII она же UTF-8 и наоборот - сам черт
> не брат...

Согласен. Это он эту ... UTF-8 придумал ...


Ответить | Правка | ^ к родителю #51 | Наверх | Cообщить модератору

72. "Отказаться от UTF-8"  –1 +/
Сообщение от Аноним (??) on 11-Авг-17, 08:09 
>Без указания BOM - и при наличии только английских букв
>- вам не удастся доказать что используемая кодировка - UTF-8.
>Человеку у которого ASCII она же UTF-8 и наоборот - сам черт
>не брат...

Здается мне, что вы оба не рограммисты. BOM - это Byte Order Mask. Вы бы хоть иногда в википедию заглядывали https://en.wikipedia.org/wiki/Byte_order_mark. Ясно же написано, что она опциональна "BOM use is optional". В вашем случае ее вставил notepad. Если создать файл echo -n a > test, то он будет совершенно одинаков в UTF-8, ASCII и даже WINDOWS-1251. Для английских букв ASCII и UTF-8 совершенно идентичны.

Ответить | Правка | ^ к родителю #51 | Наверх | Cообщить модератору

74. "Отказаться от UTF-8"  +/
Сообщение от ыы on 11-Авг-17, 09:25 
>>Без указания BOM - и при наличии только английских букв
>>- вам не удастся доказать что используемая кодировка - UTF-8.
>>Человеку у которого ASCII она же UTF-8 и наоборот - сам черт
>>не брат...
> Здается мне, что вы оба не рограммисты. BOM - это Byte Order
> Mask. Вы бы хоть иногда в википедию заглядывали https://en.wikipedia.org/wiki/Byte_order_mark.
> Ясно же написано, что она опциональна "BOM use is optional". В
> вашем случае ее вставил notepad. Если создать файл echo -n a
> > test, то он будет совершенно одинаков в UTF-8, ASCII и
> даже WINDOWS-1251. Для английских букв ASCII и UTF-8 совершенно идентичны.

Правильно. ПОЭТОМУ говорить что у вас UTF-8 имея только английские буквы - нельзя. Нет оснований считать что у вас многобайтная кодировка. Она у вас любая а не многобайтная.

Доказать что вы используете многобайтную кодировку вы можете только если пометите ее BOM или используете буквы этой кодировки непосредственно.

Ответить | Правка | ^ к родителю #72 | Наверх | Cообщить модератору

75. "Отказаться от UTF-8"  +/
Сообщение от ыы on 11-Авг-17, 09:35 
> используете буквы этой кодировки непосредственно.

Имеется ввиду многобайтные буквы...

Ответить | Правка | ^ к родителю #74 | Наверх | Cообщить модератору

76. "Отказаться от UTF-8"  –1 +/
Сообщение от Аноним (??) on 11-Авг-17, 09:39 
> Правильно. ПОЭТОМУ говорить что у вас UTF-8 имея только английские буквы -
> нельзя. Нет оснований считать что у вас многобайтная кодировка. Она у
> вас любая а не многобайтная.
> Доказать что вы используете многобайтную кодировку вы можете только если пометите ее
> BOM или используете буквы этой кодировки непосредственно.

Извините, но Вы написали глупость полнейшую. Во-первых задача не требует этого доказательства. Вы же знаете в какой кодировке записаны ваши файлы. Вы не использовали никакую другую кроме UTF-8. Во-вторых, что это за приём в доказательстве -помечать текст BOM. Это ничего не дает а только усложняет его.

Ответить | Правка | ^ к родителю #74 | Наверх | Cообщить модератору

78. "Отказаться от UTF-8"  –1 +/
Сообщение от ыы on 11-Авг-17, 09:52 
>> Правильно. ПОЭТОМУ говорить что у вас UTF-8 имея только английские буквы -
>> нельзя. Нет оснований считать что у вас многобайтная кодировка. Она у
>> вас любая а не многобайтная.
>> Доказать что вы используете многобайтную кодировку вы можете только если пометите ее
>> BOM или используете буквы этой кодировки непосредственно.
> Извините, но Вы написали глупость полнейшую. Во-первых задача не требует этого доказательства.

Требует.
m(многобайт)*r > m(одинбайт)*r


> Вы же знаете в какой кодировке записаны ваши файлы.

Нет. Пока вы не прочитали файлы- вы этого не знаете.
m(многобайт)*r > m(одинбайт)*r

> Вы не использовали никакую другую кроме UTF-8.

но утверждать что то что вы считываете на основании получившегося содержимого - вы не можете. такой вот парадокс :)

m(многобайт)*r > m(одинбайт)*r

> Во-вторых, что это за приём в
> доказательстве -помечать текст BOM. Это ничего не дает а только усложняет
> его.

Чтобы утверждать (в строгом смысле) что вы работаете с многобайтной кодировкой- вы должны это доказать.

Ответить | Правка | ^ к родителю #76 | Наверх | Cообщить модератору

79. "Отказаться от UTF-8"  +/
Сообщение от Аноним (??) on 11-Авг-17, 10:01 
> Чтобы утверждать (в строгом смысле) что вы работаете с многобайтной кодировкой- вы
> должны это доказать.

Вы даже не понимаете какую чушь Вы несете. Если Вы возьмете файл в WINDOWS-1251 и допишете в него BOM он станет UTF-8 что ли. Это ваше доказательство?

Ответить | Правка | ^ к родителю #78 | Наверх | Cообщить модератору

80. "Отказаться от UTF-8"  –1 +/
Сообщение от ыы on 11-Авг-17, 10:09 
>> Чтобы утверждать (в строгом смысле) что вы работаете с многобайтной кодировкой- вы
>> должны это доказать.
> Вы даже не понимаете какую чушь Вы несете. Если Вы возьмете файл
> в WINDOWS-1251 и допишете в него BOM он станет UTF-8 что
> ли. Это ваше доказательство?

А вы попробуйте :)


Ответить | Правка | ^ к родителю #79 | Наверх | Cообщить модератору

81. "Отказаться от UTF-8"  +/
Сообщение от Аноним (??) on 11-Авг-17, 10:15 
>>> Чтобы утверждать (в строгом смысле) что вы работаете с многобайтной кодировкой- вы
>>> должны это доказать.
>> Вы даже не понимаете какую чушь Вы несете. Если Вы возьмете файл
>> в WINDOWS-1251 и допишете в него BOM он станет UTF-8 что
>> ли. Это ваше доказательство?
> А вы попробуйте :)

А вот от ответа уходить не надо. Отвечайте за свои слова. Станет или не станет?

Ответить | Правка | ^ к родителю #80 | Наверх | Cообщить модератору

82. "Отказаться от UTF-8"  –1 +/
Сообщение от ыы on 11-Авг-17, 10:27 
>>>> Чтобы утверждать (в строгом смысле) что вы работаете с многобайтной кодировкой- вы
>>>> должны это доказать.
>>> Вы даже не понимаете какую чушь Вы несете. Если Вы возьмете файл
>>> в WINDOWS-1251 и допишете в него BOM он станет UTF-8 что
>>> ли. Это ваше доказательство?
>> А вы попробуйте :)
> А вот от ответа уходить не надо. Отвечайте за свои слова. Станет
> или не станет?

А я не ухожу. Вы попробуйте прежде чем болтать ерунду.

Ответить | Правка | ^ к родителю #81 | Наверх | Cообщить модератору

84. "Отказаться от UTF-8"  –1 +/
Сообщение от ыы on 11-Авг-17, 10:33 
>>>> Чтобы утверждать (в строгом смысле) что вы работаете с многобайтной кодировкой- вы
>>>> должны это доказать.
>>> Вы даже не понимаете какую чушь Вы несете. Если Вы возьмете файл
>>> в WINDOWS-1251 и допишете в него BOM он станет UTF-8 что
>>> ли. Это ваше доказательство?
>> А вы попробуйте :)
> А вот от ответа уходить не надо. Отвечайте за свои слова. Станет
> или не станет?

Вы глубоко невежественны в предмете разговора.Извините.
Ответ: с точки зрения ПО которое этот файл будет читать - станет.
В этом легко убедится проведя опыт с тем же Notepad.
Что я собственно вам и посоветовал. Вам бы стоило СПЕРВА провести опыт а потом.. писать сюда глупости.

Но дело деже не в этом.  Дело в том, что когда у вас есть два файла, кодировку которых вы не знаете, установить какая она там- можно только прочитав эти файлы и подобрав подходящую кодировку по смыслу.
и BOM в начале файла-это один из признаков по которому нам следует отнести содержимое файла к кодированному по UTF-8.

Ответить | Правка | ^ к родителю #81 | Наверх | Cообщить модератору

85. "Отказаться от UTF-8"  +/
Сообщение от ыы on 11-Авг-17, 10:38 
>[оверквотинг удален]
> Ответ: с точки зрения ПО которое этот файл будет читать - станет.
> В этом легко убедится проведя опыт с тем же Notepad.
> Что я собственно вам и посоветовал. Вам бы стоило СПЕРВА провести опыт
> а потом.. писать сюда глупости.
> Но дело деже не в этом.  Дело в том, что когда
> у вас есть два файла, кодировку которых вы не знаете, установить
> какая она там- можно только прочитав эти файлы и подобрав подходящую
> кодировку по смыслу.
> и BOM в начале файла-это один из признаков по которому нам следует
> отнести содержимое файла к кодированному по UTF-8.

То есть человек, утверждающий что я ( Я!!! хаха :) ) говорю глупости, просто не понимает что в файлах - нет кодировки. там есть только поток байт, и кодировка- это инструмент интерпретации этого потока байт... И принимаем мы решение какая там кодировка- только попробовав понять что там...

Ответить | Правка | ^ к родителю #84 | Наверх | Cообщить модератору

86. "Отказаться от UTF-8"  +/
Сообщение от Аноним (??) on 11-Авг-17, 10:59 
> я ( Я!!! хаха :) ) говорю глупости

Не позорьтесь. Вернитесь к вопросу и спокойно ответьте без Ваших мантр станет WINDOWS-1251 текст UTF-8 или нет, если вставить BOM.

Ответить | Правка | ^ к родителю #85 | Наверх | Cообщить модератору

87. "Отказаться от UTF-8"  –2 +/
Сообщение от ыы on 11-Авг-17, 11:14 
>> я ( Я!!! хаха :) ) говорю глупости
> Не позорьтесь. Вернитесь к вопросу и спокойно ответьте без Ваших мантр станет
> WINDOWS-1251 текст UTF-8 или нет, если вставить BOM.

Разве спокойно и вежливо объяснять невежественному человеку его заблуждения- это позорно?
Вы не понимаете очень важных вещей в том предмете, который пытаетесь обсуждать.
Например вы не понимаете что в файлах - кодировки нет.
Текст сохраненный вами в одной кодировке- может быть прочитан другим человеком В ДРУГОЙ кодировке. И это нормально.
Демонстрацию этого я вам приводил.
Даже прямым текстом отвечал.
А вы проигнорировав мой прямой ответ снова его требуете.
Следовательно - вы троль.

Ответить | Правка | ^ к родителю #86 | Наверх | Cообщить модератору

89. "Отказаться от UTF-8"  +/
Сообщение от Аноним (??) on 11-Авг-17, 11:28 
>>> я ( Я!!! хаха :) ) говорю глупости
>> Не позорьтесь. Вернитесь к вопросу и спокойно ответьте без Ваших мантр станет
>> WINDOWS-1251 текст UTF-8 или нет, если вставить BOM.
> А вы проигнорировав мой прямой ответ снова его требуете.
> Следовательно - вы троль.

Троль -это тот, кто на простые вопросы не отвечает. На ваш "ответ" Вы вопрос получили. Следовательно троль -вы.

Ответить | Правка | ^ к родителю #87 | Наверх | Cообщить модератору

90. "Отказаться от UTF-8"  –1 +/
Сообщение от ыы on 11-Авг-17, 11:34 
>>>> я ( Я!!! хаха :) ) говорю глупости
>>> Не позорьтесь. Вернитесь к вопросу и спокойно ответьте без Ваших мантр станет
>>> WINDOWS-1251 текст UTF-8 или нет, если вставить BOM.
>> А вы проигнорировав мой прямой ответ снова его требуете.
>> Следовательно - вы троль.
> Троль -это тот, кто на простые вопросы не отвечает. На ваш "ответ"
> Вы вопрос получили. Следовательно троль -вы.

Вот мой ответ (http://www.opennet.ru/openforum/vsluhforumID1/96963.html#84):

"Ответ: с точки зрения ПО которое этот файл будет читать - станет."
И объяснено почему.


Вот ваш вопрос в ответ на мой ответ:

"Не позорьтесь. Вернитесь к вопросу и спокойно ответьте без Ваших мантр станет WINDOWS-1251 текст UTF-8 или нет, если вставить BOM.
"


Ответить | Правка | ^ к родителю #89 | Наверх | Cообщить модератору

91. "Отказаться от UTF-8"  +/
Сообщение от Аноним (??) on 11-Авг-17, 11:42 
>>>>> я ( Я!!! хаха :) ) говорю глупости
>>>> Не позорьтесь. Вернитесь к вопросу и спокойно ответьте без Ваших мантр станет
> "Ответ: с точки зрения ПО которое этот файл будет читать - станет."

Вы что, в пятом классе учитесь, какая у ПО может быть точка зрения?

Ответить | Правка | ^ к родителю #90 | Наверх | Cообщить модератору

92. "Отказаться от UTF-8"  +/
Сообщение от ыы on 11-Авг-17, 11:53 
>>>>>> я ( Я!!! хаха :) ) говорю глупости
>>>>> Не позорьтесь. Вернитесь к вопросу и спокойно ответьте без Ваших мантр станет
>> "Ответ: с точки зрения ПО которое этот файл будет читать - станет."
> Вы что, в пятом классе учитесь, какая у ПО может быть точка
> зрения?

Когда вы подрастете, и возможно все таки окончите школу, и возможно сможете поступить в высшее учебное заведение, и даже, чем черт не шутит попадете на предмет который называется "русский язык"....
Не исключено, что вам объяснят что такое "переносное употребление форм глагола".
Хотя по и идее, должны были вам уже это объяснить но вы вероятно на урок не явились раз моя фраза  ввела вас в такое состояние :)

Ответить | Правка | ^ к родителю #91 | Наверх | Cообщить модератору

93. "Отказаться от UTF-8"  –1 +/
Сообщение от Аноним (??) on 11-Авг-17, 12:06 
> "переносное употребление форм глагола"

Какого глагола форм? Уверен, что вы их не знаете, как не знаете о чем пишете и никогда не слышали о том, что такое доказательство.

Ответить | Правка | ^ к родителю #92 | Наверх | Cообщить модератору

88. "Отказаться от UTF-8"  +/
Сообщение от Andrey Mitrofanov on 11-Авг-17, 11:17 
> Не позорьтесь. Вернитесь к вопросу и спокойно ответьте без Ваших мантр станет
> WINDOWS-1251 текст UTF-8 или нет, если вставить BOM.

:+)))  А вот такой вот роезультат -

  File "/usr/lib64/python2.7/encodings/utf_8.py", line 16, in decode
    return codecs.utf_8_decode(input, errors, True)
UnicodeDecodeError: 'utf8' codec can't decode byte 0xf0 in position 20:
invalid continuation byte

считаем, как "стал" или "не слал"?

Не, там не с BOM-ом дело было. Так, на всякий, "уточняю" $) вопрос.

--По строгим правилам гольфа? --But of course!

Ответить | Правка | ^ к родителю #86 | Наверх | Cообщить модератору

47. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 09-Авг-17, 11:41 
> Интересная мысль :)
> ... BOM ...

И вот, кстати, заметьте, Notepad оказался не моей проблемой.

Ответить | Правка | ^ к родителю #44 | Наверх | Cообщить модератору

53. "Отказаться от UTF-8"  +1 +/
Сообщение от ыы on 09-Авг-17, 12:51 
>> Интересная мысль :)
>> ... BOM ...
> И вот, кстати, заметьте, Notepad оказался не моей проблемой.

Вы просто не поняли сути проблемы.

Ответить | Правка | ^ к родителю #47 | Наверх | Cообщить модератору

43. "Отказаться от LSD-8"  –1 +/
Сообщение от Andrey Mitrofanov on 09-Авг-17, 10:32 
> Сомневаюсь что вы понимаете о чем говорите.

Во, об этом и была она, "но мне нужна была референсная нитка о том".

Тред - памятник себе.

/?https://duckduckgo.com/?q=%D0%BA%D0%B0&#...

Ответить | Правка | ^ к родителю #41 | Наверх | Cообщить модератору

46. "Отказаться от LSD-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 09-Авг-17, 11:26 
> Тред - памятник себе.

Ну, а чего, пусть сходят, посмотрят. Вам, вот, интересно же.

Ответить | Правка | ^ к родителю #43 | Наверх | Cообщить модератору

56. "Отказаться от LSD-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 09-Авг-17, 20:51 
Про памятник, всё-таки, вы со зла. В организации, где я работаю, есть небольшая инфраструктура с почтой, среверами, много чем самописным, которую поддерживает 2 непрофессионала (как и вы, может быть). И тот второй насчёт перекодирования в UTF-8 говорит примерно то же, что и все. То, что мы делаем по профессии, включает программирование, но русский язык там не нужен, а вот в инфраструктуре -- да, много чего в разных кодировках, включая UTF-8. И мы ничего с этим не делали бы, но повсеместная агитация за повсеместную UTF-8 понятно к чему приведёт (ну, opennet.ru придётся на неё переключить, например). Вот я и решил сделать референсную тему, в которой другие участники (не я) могли бы квалифицированно объяснить недостатки UTF-8. Тогда любому можно было бы сказать, что так думаю не я, а совсем другие люди, что гораздо убедительнее. Ну, да, я завяз, получилось плохо. Уж извините.

Намерение вбросить идею о том, что не нужно так уж сильно агитировать за повсеместность UTF-8, тоже было, конечно.

Ответить | Правка | ^ к родителю #43 | Наверх | Cообщить модератору

58. "Отказаться от LSD-8"  –1 +/
Сообщение от ыы on 10-Авг-17, 07:40 
>[оверквотинг удален]
> не нужен, а вот в инфраструктуре -- да, много чего в
> разных кодировках, включая UTF-8. И мы ничего с этим не делали
> бы, но повсеместная агитация за повсеместную UTF-8 понятно к чему приведёт
> (ну, opennet.ru придётся на неё переключить, например). Вот я и решил
> сделать референсную тему, в которой другие участники (не я) могли бы
> квалифицированно объяснить недостатки UTF-8. Тогда любому можно было бы сказать, что
> так думаю не я, а совсем другие люди, что гораздо убедительнее.
> Ну, да, я завяз, получилось плохо. Уж извините.
> Намерение вбросить идею о том, что не нужно так уж сильно агитировать
> за повсеместность UTF-8, тоже было, конечно.

Шел 2017 год. В космосе летала вторая китайская космическую станция.
Некоторые представители памятников продолжали бороться за революционный вопрос - КОИ или UTF.

Ответить | Правка | ^ к родителю #56 | Наверх | Cообщить модератору

59. "Отказаться от LSD-8"  +2 +/
Сообщение от Sergey Maslennikov (ok) on 10-Авг-17, 08:04 
> представители памятников продолжали бороться

Снова начали :)

> за революционный вопрос - КОИ или UTF.

Но, всё-таки, раньше боролись за КОИ, а теперь за вопрос. Его и задать-то почти невозможно. И не против UTF.

Ответить | Правка | ^ к родителю #58 | Наверх | Cообщить модератору

101. "Отказаться от UTF-8"  +/
Сообщение от Anonymoustus (ok) on 03-Окт-17, 05:31 
> мне нужна была референсная нитка о том, что двуязычные кодировки могут иметь такое же право на существование, как UTF-8, и я её с вашей помощью сделал.

Мама дорогая, это ж какое-то просто безумие.

Ответить | Правка | ^ к родителю #28 | Наверх | Cообщить модератору

5. "Отказаться от UTF-8"  +/
Сообщение от ыы on 07-Авг-17, 13:05 
>> ... условие (распаковка) - надуманно
> А понимаешь, если не паковать, то ответ тривиален. В случае русского языка
> UTF-8 уступает вдвое любой распространённой двуязычной кодировке по занимаемому месту
> на диске и энергозатратам на копирование и передачу. Ты можешь почитать
> об этом, например, в Википедии [1] или здесь же [2].
> Причина в том, что в распакованном виде в UTF-8 русским буквам отведены
> 2-байтные коды в отличие от английских и большей части букв западноевропейских
> языков, которые записывают 1-байтными кодами.
> [1] https://en.wikipedia.org/wiki/UTF-8#Comparison_with_single-b...
> [2] https://www.opennet.ru/openforum/vsluhforumID1/51935.html

UTF-8 придумана не для того чтобы обеспечить максимально быстрое исполнение или минимальный размер файлов. Вы смотрите только на одну сторону большой комплексной проблемы.

Ответить | Правка | ^ к родителю #2 | Наверх | Cообщить модератору

12. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 07-Авг-17, 17:50 
> UTF-8 придумана не для того чтобы обеспечить максимально быстрое
> исполнение или минимальный размер файлов.

А что, люди ни этого ли хотят?

На размер запакованного файла выбор кодировки влияет слабо, а максимально быстрой, предположительно, окажется обработка английского текста. Получается, что если сидеть на одной лишь UTF-8, то для английского языка оптимальная кодировка существует, а для русского -- нет.

> Вы смотрите только на одну сторону большой комплексной проблемы.

А больше пока некуда смотреть. Если окажется, что в тестах UTF-8 не уступает 1-байтным кодировкам, или это можно доказать, то и проблемы нет. Тогда только UTF-8.

Или, о какой проблеме вы пишете?

Ответить | Правка | ^ к родителю #5 | Наверх | Cообщить модератору

16. "Отказаться от UTF-8"  –1 +/
Сообщение от ыы on 07-Авг-17, 19:12 
>> UTF-8 придумана не для того чтобы обеспечить максимально быстрое
>> исполнение или минимальный размер файлов.
> А что, люди ни этого ли хотят?

представьте себе....
Люди -хотят как правило работать поменьше и получать побольше. И железо- дешевле труда программистов.

Поэтому если одой кодировкой можно решить проблему на сотне языков - то следует выбрать такую кодировку, а не изобретать и потом реализовывать сотню 8-ми битных кодировок.
Это элементарно...

> На размер запакованного файла выбор кодировки влияет слабо, а максимально быстрой, предположительно,
> окажется обработка английского текста. Получается, что если сидеть на одной лишь
> UTF-8, то для английского языка оптимальная кодировка существует, а для русского
> -- нет.
>> Вы смотрите только на одну сторону большой комплексной проблемы.
> А больше пока некуда смотреть. Если окажется, что в тестах UTF-8 не
> уступает 1-байтным кодировкам, или это можно доказать, то и проблемы нет.
> Тогда только UTF-8.
> Или, о какой проблеме вы пишете?

О выборе решения для ИТ-инфраструктуры. Незначительное уменьшение скорости обработки (ваши 300 АК- абсолютно высосанный из пальца пример , отвлеченный и взятый с потолка. и никому ненужный и ничего не доказывающий.) - не является решающим фактором в подавляющем большинстве ИТ инфраструктур.
И вам имхо стоит заняться реальными проблемами а не тем чем занимается руководящий работник когда ему делать нечего...

Ответить | Правка | ^ к родителю #12 | Наверх | Cообщить модератору

31. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 08-Авг-17, 17:31 
> представьте себе....
> Люди -хотят как правило работать поменьше и получать побольше. И железо- дешевле
> труда программистов.

Верно, но людей больше, чем программистов.

Ответить | Правка | ^ к родителю #16 | Наверх | Cообщить модератору

33. "Отказаться от UTF-8"  –1 +/
Сообщение от Andrey Mitrofanov on 08-Авг-17, 17:44 
>> представьте себе....
>> Люди -хотят как правило работать поменьше и получать побольше. И железо- дешевле
>> труда программистов.
> Верно, но людей больше, чем программистов.

Вы хотели сказать, программисты не люди?

Ответить | Правка | ^ к родителю #31 | Наверх | Cообщить модератору

34. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 08-Авг-17, 17:51 
> Вы хотели сказать, программисты не люди?

N_людей-непрограммистов + N_людей-программистов >> N_людей-программистов

N_людей-непрограммистов + N_людей-программистов == N_людей

-- вот их и больше :)

Ответить | Правка | ^ к родителю #33 | Наверх | Cообщить модератору

35. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 08-Авг-17, 17:57 
> Вы хотели сказать, программисты не люди?

Программистам нужно, чтобы они кому-нибудь были нужны. Ну, т.е., им пришлось бы считаться с остальными.

Ответить | Правка | ^ к родителю #33 | Наверх | Cообщить модератору

17. "Отказаться от UTF-8"  +/
Сообщение от Andrey Mitrofanov on 07-Авг-17, 19:14 
>для английского языка оптимальная кодировка существует, а для русского
> -- нет.

"Оптимальная" по каким параметрам?? ??"Желаю, чтобы всем!"(ц)ШариковПП

Преждевременная обоюдоострая посконно-хлебосольно-пезанская Оптимизация всея трафика куда-то туда?

Ответить | Правка | ^ к родителю #12 | Наверх | Cообщить модератору

49. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 09-Авг-17, 12:30 
> "Оптимальная" по каким параметрам?? ??"Желаю, чтобы всем!"(ц)ШариковПП

По времени обработки.

Ответить | Правка | ^ к родителю #17 | Наверх | Cообщить модератору

50. "Отказаться от UTF-8"  +/
Сообщение от Andrey Mitrofanov on 09-Авг-17, 12:46 
>> "Оптимальная" по каким параметрам?? ??"Желаю, чтобы всем!"(ц)ШариковПП
> По времени обработки.

Посмотрите memcpy().

Ответить | Правка | ^ к родителю #49 | Наверх | Cообщить модератору

55. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 09-Авг-17, 13:06 
> Посмотрите memcpy().

А зачем? -- она не имеет отношения к разбору текста, только куски целиком копирует. И в какое её место смотреть?

Ответить | Правка | ^ к родителю #50 | Наверх | Cообщить модератору

95. "Отказаться от UTF-8: memcpy()"  +2 +/
Сообщение от Sergey Maslennikov (ok) on 23-Авг-17, 17:04 
> Посмотрите memcpy().

Неправильно я ответил. Смысл посмотреть на memcpy() есть, если предположить, что кто-то решился бы копировать внутри программ однобайтно-кодированную кириллицу. В этом случае копирование произошло бы примерно в 1.75 раза быстрее, чем копирование того же текста в UTF-8 [1].

Функция memcpy() может быть по разному реализована, но в реализациях, которые я видел, ожидаемое время копирования должно быть пропорционально размеру копируемых данных. В UTF-8 текст в 1.75 раза длиннее, чем в KOI8-R -- вот и копирует memcpy() его во столько же раз дольше. Это же соотношение можно получить экспериментально [2].

Возможно, я не уловил суть или цель совета использовать memcpy() при оптимизации путём выбора кодировки.

Ссылки / сноски:
[1] -- если копировать тот же текст, что упомянут в исходном посте;
[2] Экспериментальная программка -- обёртка, которую я собираюсь изредка применять для тестирования функций ICU. Здесь в качестве примера тестируемой функции я вставил memcpy():

#include <stdio.h>
#include <stdlib.h>
#include <time.h>
#include <string.h>
#include <unicode/utypes.h>
#include <unicode/ucnv.h>

long delta_t(struct timespec *start, struct timespec *end)
{
    time_t sec; long nsec;
    if ((end->tv_nsec-start->tv_nsec)<0) {
        sec = end->tv_sec-start->tv_sec-1;
        nsec = 1000000000+end->tv_nsec-start->tv_nsec;
    } else {
        sec = end->tv_sec-start->tv_sec;
        nsec = end->tv_nsec-start->tv_nsec;
    }
    return sec * 1000000000l + nsec;
}

int main()
{
  const char fnm_initial[] = "../../anna-karenina";
  FILE *fini = fopen(fnm_initial, "r");
  if (fini == NULL) {
    fprintf(stderr, "Can't open initial file.\n");
    return -1;
  }
  fseek(fini, 0L, SEEK_END);
  unsigned long len = ftell(fini), size = len + 1ul;
  fseek(fini, 0L, SEEK_SET);
  printf("Allocate %lu bytes to copy file \"%s\" ... ", size, fnm_initial); fflush(stdout);
  char *text_koi8 = malloc(size);
  if (text_koi8 == NULL) {
    fclose(fini);
    fprintf(stderr, "Can't allocate memory for \"text_koi8\".\n");
    return -2;
  }
  printf("Done.\n"); fflush(stdout); /* Allocated */
  if(fread(text_koi8, 1ul, len, fini) != len) {
    free(text_koi8);
    fclose(fini);
    fprintf(stderr, "Can't read file \"%s\" into the buffer.\n", fnm_initial);
    return -3;
  }
  fclose(fini);
  text_koi8[len] = '\x0';
  UErrorCode uerr = U_ZERO_ERROR;
  /* Here it is the example of the UTF-8 buffer exact size evaluation. It is however faster
     to allocate 2 * len + 1ul long buffer instaed and shrink it, after converting,
     by realloc() to the value returned by ucnv_convert(). */
  unsigned long size_u8 = ucnv_convert("UTF-8", "KOI8-R", NULL, 0ul, text_koi8, size, &uerr);
  if( uerr != U_BUFFER_OVERFLOW_ERROR &&
      uerr != U_STRING_NOT_TERMINATED_WARNING &&
      U_FAILURE(uerr) ) {
    free(text_koi8);
    fclose(fini);
    fprintf(stderr, "Can't evaluate UTF-8 text buffer size.\n");
    return -4;
  }
  printf("UTF-8 text buffer size = %lu bytes.\n", size_u8);
  char *text_utf8 = malloc(size_u8);
  if( text_koi8 == NULL ) {
    free(text_koi8);
    fclose(fini);
    fprintf(stderr, "Can't allocate memory for text_utf8.\n");
    return -5;
  }
  uerr = U_ZERO_ERROR;
  ucnv_convert("UTF-8", "KOI8-R", text_utf8, size_u8, text_koi8, size, &uerr);
  if( U_FAILURE(uerr) ) {
    free(text_utf8); free(text_koi8);
    fclose(fini);
    fprintf(stderr, "Error converting KOI8-R text into UTF-8 text.\n");
    return -6;
  }
  /* At this point we have two buffers with the same text in koi8-r and utf-8. */
  /* Prepare for measurements */
  char *text_koi8_a = malloc(size);
  if( text_koi8_a == NULL ) {
    free(text_utf8); free(text_koi8); fclose(fini);
    fprintf(stderr, " Can't allocate memory for \"text_koi8_a\".\n");
    return -7;
  }
  char *text_utf8_a = malloc(size_u8);
  if( text_utf8_a == NULL ) {
    free(text_koi8_a); free(text_utf8); free(text_koi8); fclose(fini);
    fprintf(stderr, "Can't allocate memory for \"text_utf8_a\".\n");
    return -8;
  }
  /* Buffers to copy into are ready here. */
  unsigned long i;
  struct timespec t0, t1;
  long Dt_call, Dt_koi8, Dt_utf8,
       Dt_koi8_total = 0ul, Dt_utf8_total = 0ul;
  double Dt_utf8_to_Dt_koi8;
  for(i = 0; i < 220ul; i++) {
    printf("------------- i = %lu -------------\n", i);
    /* Estimation of time for the function call itself (with copying
       negligibly small amount of data -- 1 byte) */
    clock_gettime(CLOCK_MONOTONIC, &t0);
    memcpy(text_koi8_a, text_koi8, 1ul);
    clock_gettime(CLOCK_MONOTONIC, &t1);
    Dt_call = delta_t(&t0, &t1); /* (in nanoseconds) */
    printf("Dt_call = %ld ns\n", Dt_call);
    /* Test for koi8-r */
    clock_gettime(CLOCK_MONOTONIC, &t0);
    memcpy(text_koi8_a, text_koi8, size);
    clock_gettime(CLOCK_MONOTONIC, &t1);
    Dt_koi8 = delta_t(&t0, &t1) - Dt_call;
    printf("Dt_koi8 = %ld ns\n", Dt_koi8); fflush(stdout);
    /* Test for utf-8 */
    clock_gettime(CLOCK_MONOTONIC, &t0);
    memcpy(text_utf8_a, text_utf8, size_u8);
    clock_gettime(CLOCK_MONOTONIC, &t1);
    Dt_utf8 = delta_t(&t0, &t1) - Dt_call;
    if (i > 9ul) { /* Skip first 10 experiments (wait for stabilization) */
      Dt_koi8_total += Dt_koi8;
      Dt_utf8_total += Dt_utf8;
    }
    printf("Dt_utf8 = %ld ns\n", Dt_utf8);
    Dt_utf8_to_Dt_koi8 = (double)Dt_utf8 / (double)Dt_koi8;
    printf("Dt_utf8 / Dt_koi8 = %.5g\n", Dt_utf8_to_Dt_koi8);
    fflush(stdout);
  }
  puts("===================================");
  printf("Dt_koi8_total = %ld ns\nDt_utf8_total = %ld ns\n"
         "Dt_utf8_total / Dt_koi8_total = %.5g\n",
         Dt_koi8_total, Dt_utf8_total,
         (double)Dt_utf8_total / (double)Dt_koi8_total);
  printf("len_u8 / len = %.5g\n", (double)(size_u8 - 1ul) / (double)len );
  free(text_utf8_a);
  free(text_koi8_a);
  free(text_utf8);
  free(text_koi8);
  return 0;
}

Ответить | Правка | ^ к родителю #50 | Наверх | Cообщить модератору

14. "Отказаться от UTF-8"  +/
Сообщение от XAnder (ok) on 07-Авг-17, 19:05 
Кодировка UTF-8 придумана вовсе не для оптимального хранения текстов, а для однозначного и независимого от платформы представления кодовых позиций Юникода в виде потока байт, точнее — октетов, сохраняя при этом совместимость с ASCII.

Так уж получилось, что почти вся информация у нас хранится в виде массивов 8-битных байт и передаётся в виде потоков этих же октетов. Это наглядный пример «плевка в вечность»: отказаться от этой концепции очень непросто, даже если в том будет потребность.

Таким образом, всем приходится подстраиваться под существующее положение дел, включая и Юникод. Так и появилась UTF-8.

Вопрос использования той или иной кодировки для хранения тех или иных текстов — это часть более общей проблемы выбора оптимального кодирования. Причём под оптимальностью могут пониматься очень разные вещи: скорость, размер, удобочитаемость, совместимость, устойчивость к искажениям, конфиденциальность и т. д. Так что логика выбора кодировки (и не только её) в каждой задаче разная.

Вам бы нужно чётко сформулировать свою задачу, тогда будет понятно, что тут обсуждать, что важно, а что второстепенно.

P.S. Возможно моё сообщение кажется собранием тривиальных фактов в духе К.О. Это не кажется — это действительно так :-) Но, по-моему, кто-то должен был это сделать.

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

48. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 09-Авг-17, 12:27 
> Это наглядный пример «плевка в вечность»

Тогда уж -- "в нашу вечность". Европейские языки проблема почти не затрагивает.

Ответить | Правка | ^ к родителю #14 | Наверх | Cообщить модератору

60. "Отказаться от UTF-8"  +/
Сообщение от XAnder (ok) on 10-Авг-17, 13:12 
>> Это наглядный пример «плевка в вечность»
> Тогда уж -- "в нашу вечность". Европейские языки проблема почти не затрагивает.

Не-не-не! Дело тут не в языках, и не в кодировках. Собака зарыта уровнем глубже. Кто-то когда-то за нас решил, что вся информация в компьютерах должна быть представлена блоками с размером, кратным восьми битам. Это стало для нас (людей во всём мире) настолько естественным порядком вещей, что мало кто об этом вообще задумывается. А тема для размышлений тут весьма богатая! Не знаю как, но чую, что когда-нибудь это «ау!» нам откликнется.

Ответить | Правка | ^ к родителю #48 | Наверх | Cообщить модератору

61. "Отказаться от UTF-8"  +/
Сообщение от Sergey Maslennikov (ok) on 10-Авг-17, 13:34 
> чую, что когда-нибудь это "ау!" нам откликнется.

Qubit-ы?

Ответить | Правка | ^ к родителю #60 | Наверх | Cообщить модератору

62. "Отказаться от UTF-8"  +/
Сообщение от ыы on 10-Авг-17, 13:36 
>>> Это наглядный пример «плевка в вечность»
>> Тогда уж -- "в нашу вечность". Европейские языки проблема почти не затрагивает.
> Не-не-не! Дело тут не в языках, и не в кодировках. Собака зарыта
> уровнем глубже. Кто-то когда-то за нас решил, что вся информация в
> компьютерах должна быть представлена блоками с размером, кратным восьми битам. Это
> стало для нас (людей во всём мире) настолько естественным порядком вещей,
> что мало кто об этом вообще задумывается. А тема для размышлений
> тут весьма богатая! Не знаю как, но чую, что когда-нибудь это
> «ау!» нам откликнется.

Да, компьютеры на третичной логике похоронили... не заговор ли это?

Ответить | Правка | ^ к родителю #60 | Наверх | Cообщить модератору

63. "Отказаться от UTF-8"  –1 +/
Сообщение от XAnder (ok) on 10-Авг-17, 14:14 
> Да, компьютеры на третичной логике похоронили... не заговор ли это?

Я, вообще-то, про байты, а не про биты.

Ответить | Правка | ^ к родителю #62 | Наверх | Cообщить модератору

64. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 10-Авг-17, 14:20 
> Я, вообще-то, про байты, а не про биты.

А, тогда Qubit-ы, видимо, тоже, не то, что вы чуете.

Но байт -- это просто степень двойки -- связан с системой исчисления.

Ответить | Правка | ^ к родителю #63 | Наверх | Cообщить модератору

65. "Отказаться от UTF-8"  +1 +/
Сообщение от asphinx on 10-Авг-17, 15:35 
>>> Это наглядный пример «плевка в вечность»
>> Тогда уж -- "в нашу вечность". Европейские языки проблема почти не затрагивает.
> Не-не-не! Дело тут не в языках, и не в кодировках. Собака зарыта
> уровнем глубже. Кто-то когда-то за нас решил, что вся информация в
> компьютерах должна быть представлена блоками с размером, кратным восьми битам. Это
> стало для нас (людей во всём мире) настолько естественным порядком вещей,
> что мало кто об этом вообще задумывается. А тема для размышлений
> тут весьма богатая! Не знаю как, но чую, что когда-нибудь это
> «ау!» нам откликнется.

Ну, вот - докатились уже с языками высокого уровня до того, что ОСНОВЫ народ не знает... :(

PS: Ещё каких-то 5-10 лет назад историю происхождения байта рассказывали чуть ли не в школе, а уж про всякие курсы компьютерной грамотности с уклоном в программирование, я просто молчу - без понимания байта многие вещи вообще нельзя было сделать...

PS2: https://ru.wikipedia.org/wiki/%D0%91%D0%... если уж на то пошло.

От себя добавлю, к третьей версии (как мне рассказывали примерно 25 лет назад), на заре эпохи были значительные технические трудности с организацией и хранением данных в ячейках, потому в доперсоналочные времена объём данных в 4 бита был выбран как оптимальный размер ячейки, которую можно защитить одним битом чётности с допустимой степенью гарантированной вероятности восстановления данных. Доказательную математику этого утверждения нашим, молодым тогда мозгам, естественно, приводить не стали - зачем нам тот бисер был?.. Вот как сейчас - кому тот байт нужен-то, на самом деле?...

Кстати, до сих пор не пойму - 3 бита было проще и надёжнее же. И Байт сейчас был бы 6-битным...

А можно вспомнить ещё, что и без того слабую советскую промышленность по созданию вычислительной техники, окончательно похоронили со всеми перспективными наработками в "весёлые" 80-90-е, приняв западные стандарты от IBM(PC) и MS(DOS). Оттуда и англоязычность языков программирования...

А ещё можно вспомнить, что 60-70-е годы не было задач, где бы требовались в компьютерах заглавные и строчные буквы: 28 букв латинского алфавита+10 цифр+несколько символов математических действий+скобки, знаки препинания - это был минимальный набор символов для мало-мальски читабельного (не в кодах) "общения" между человеком и машиной. Отсюда и первые 6-битные слова, которые потом расширили до "нынешнего" байта.

Ответить | Правка | ^ к родителю #60 | Наверх | Cообщить модератору

66. "Отказаться от UTF-8"  +/
Сообщение от XAnder (ok) on 10-Авг-17, 17:46 
> Ну, вот - докатились уже с языками высокого уровня до того, что
> ОСНОВЫ народ не знает... :(

Эх, пойду уроки делать, а то предки заругаютЪ... (почти без шуток)

> PS: Ещё каких-то 5-10 лет назад историю происхождения байта рассказывали чуть ли
> не в школе, а уж про всякие курсы компьютерной грамотности с
> уклоном в программирование, я просто молчу - без понимания байта многие
> вещи вообще нельзя было сделать...

Как бы донести мысль?.. Начну издалека, с ситуации, которая подтолкнула к этим идеям.

Лет 5—10 назад в нашей шараге делали программу для простенького контроллера, который следил за неким колебательным процессом. С точки зрения программы процесс этот был потоком целых чисел от 0 до 450. Программа анализировала этот поток и дёргала всякие штуки по результатам анализа. При этом анализ был тем точнее, чем больше данных удавалось «держать в голове». А памяти было в обрез, и процессор довольно медленный. Казалось бы, каждому числу достаточно 9 бит. Но упаковка-распаковка 9-битных чисел в 8-битные байты привела к чрезмерному для той машинки усложнению и замедлению программы. Так что в итоге сделали по-простому — два байта на число. Работало отлично, но осадочек остался.

Вот тогда я и подумал, как было бы хорошо, если бы адреса в памяти указывали на биты, а не на байты. Это было началом, и еретические мысли завели далеко — к осознанию того, что байт (в отличие от бита) — это искусственная единица, введённая произвольно и воспринимаемая некритично.

История вычислительной техники — штука интересная и поучительная. Я и сам про неё когда-то много рассказывал, когда вёл «программистский» кружок в школе (было и такое, давно). Как вы верно заметили, байты были введены из-за технических ограничений «на заре времён». А их «погулявший» размер — наглядное свидетельство искусственности этой величины. Хорошенько покопавшись в прошлом и усвоив его уроки, давайте смотреть в будущее, это же так здорово!

P.S. Тема окончательно свалилась в оффтоп (а был ли топ?), так что давайте сюда все потоки сознания, пока модераторы не разогнали :o)

Ответить | Правка | ^ к родителю #65 | Наверх | Cообщить модератору

67. "Отказаться от UTF-8"  +/
Сообщение от Andrey Mitrofanov on 10-Авг-17, 17:55 
> Как бы донести мысль?.. Начну издалека, с ситуации, которая подтолкнула к этим
> идеям.

Вот тут мне http://apenwarr.ca/log/?m=201708#10 тоже очень понравилось.

> P.S. Тема окончательно свалилась в оффтоп (а был ли топ?), так что
> давайте сюда все потоки сознания, пока модераторы не разогнали :o)

Ответить | Правка | ^ к родителю #66 | Наверх | Cообщить модератору

69. "Отказаться от UTF-8"  +/
Сообщение от XAnder (ok) on 10-Авг-17, 18:28 
>> Как бы донести мысль?.. Начну издалека, с ситуации, которая подтолкнула к этим
>> идеям.
> Вот тут мне http://apenwarr.ca/log/?m=201708#10 тоже очень понравилось.

Шикарно излагает! В интересном мире мы живём, однако.

layers are only ever added, never removed — в гранит!

Ответить | Правка | ^ к родителю #67 | Наверх | Cообщить модератору

68. "Отказаться от UTF-8"  –1 +/
Сообщение от ыы on 10-Авг-17, 18:10 
>[оверквотинг удален]
> и воспринимаемая некритично.
> История вычислительной техники — штука интересная и поучительная. Я и сам про
> неё когда-то много рассказывал, когда вёл «программистский» кружок в школе (было
> и такое, давно). Как вы верно заметили, байты были введены из-за
> технических ограничений «на заре времён». А их «погулявший» размер
> — наглядное свидетельство искусственности этой величины. Хорошенько покопавшись
> в прошлом и усвоив его уроки, давайте смотреть в будущее, это
> же так здорово!
> P.S. Тема окончательно свалилась в оффтоп (а был ли топ?), так что
> давайте сюда все потоки сознания, пока модераторы не разогнали :o)

А на заре вычислительной техники - байт то собственно и не было.
Были слова. и имели они разную длину в зависимости от архитектуры.
А архитектуры тогда были- кто во что горазд...
Так что да, байт- величина условная.

Ответить | Правка | ^ к родителю #66 | Наверх | Cообщить модератору

70. "Отказаться от UTF-8"  +/
Сообщение от asphinx on 10-Авг-17, 23:14 
Я немного абзацы местами переставлю - ничего?

> А памяти было в обрез, и процессор довольно медленный.

[skip...]
> Вот тогда я и подумал, как было бы хорошо, если бы адреса
> в памяти указывали на биты, а не на байты. Это было

В таких условиях люди берут в руки молоток, напильник... в смысле - ассемблер, если оно действительно "надо"...

> началом, и еретические мысли завели далеко — к осознанию того, что
> байт (в отличие от бита) — это искусственная единица, введённая произвольно
> и воспринимаемая некритично.

Так оно и есть. На ассемблере легко определяются длины данных, не привязанные к исторически сложившимся величинам... И транслятор не будет проявлять повышенный интеллект, выравнивая каждую переменную по границе слова(байта).

> Лет 5—10 назад в нашей шараге делали программу для простенького контроллера, который
> следил за неким колебательным процессом. С точки зрения программы процесс этот
> был потоком целых чисел от 0 до 450. Программа анализировала этот
> поток и дёргала всякие штуки по результатам анализа. При этом анализ
> был тем точнее, чем больше данных удавалось «держать в голове». А
> памяти было в обрез, и процессор довольно медленный. Казалось бы, каждому
> числу достаточно 9 бит. Но упаковка-распаковка 9-битных чисел в 8-битные байты
> привела к чрезмерному для той машинки усложнению и замедлению программы. Так
> что в итоге сделали по-простому — два байта на число. Работало
> отлично, но осадочек остался.

Тех же лет 25 назад в одном из институтов морской биологии на базе IBM PC XT, с 5-мегагерцовым, если я правильно помню, процессором Intel 8086, с жёстким диском аж 40МБ были сделаны глубоководные зонды, которые снимали и сохраняли поток данных с около сотни датчиков. Помнится, были дизассемблированы и проштудированы алгоритмы работы arj, arc, lha и lzh - эффективность упаковки данных напрямую влияла на длительность нахождения зонда на глубине. Всё это умещалось в две-три сотни, что ли, секторов, безо всякого DOS-а, для экономии места. Нельзя, конечно, утверждать, что мы засунули архиваторы в 50 кБ кода, но многие идеи мы оттуда почерпнули... Мы даже BIOS хорошо разобрали на предмет работы int13h, но работа через порты сильно раздула код, да и коллега, отвечающий за этот блок часто болел - оставили опираться на функциях BIOS. "Работало отлично", безо всяких осадков - как мы накодили, так и работало...

Ответить | Правка | ^ к родителю #66 | Наверх | Cообщить модератору

71. "Отказаться от UTF-8"  +/
Сообщение от XAnder (ok) on 11-Авг-17, 07:37 
> В таких условиях люди берут в руки молоток, напильник... в смысле -
> ассемблер, если оно действительно "надо"...

Вы не поверите! Там он и был изначально. Потом, правда, заменили на Си, потому что довольно скоро стало понятно, что на разработку на ассемблере тратится слишком много времени. Да, человеческого времени, которое дороже машинного.

> Так оно и есть. На ассемблере легко определяются длины данных, не привязанные
> к исторически сложившимся величинам... И транслятор не будет проявлять повышенный интеллект,
> выравнивая каждую переменную по границе слова(байта).

Правильно ли я вас понял, что можно средствами некоторого ассемблера определять даже 9-битные данные, чтобы работать с их массивами? Если да, то нельзя ли пример?

> Тех же лет 25 назад в одном из институтов морской биологии...

Молодцы, что могу сказать. На безрыбье как только не извернёшься.

Ответить | Правка | ^ к родителю #70 | Наверх | Cообщить модератору

77. "Отказаться от UTF-8"  +/
Сообщение от asphinx on 11-Авг-17, 09:44 
> Вы не поверите! Там он и был изначально. Потом, правда, заменили на Си, потому что
> довольно скоро стало понятно, что на разработку на ассемблере тратится слишком много
> времени. Да, человеческого времени, которое дороже машинного.

Да отчего ж не поверю - поверю. Глядя на то, какой сейчас код получается на том же gcc, можно констатировать определённые успехи компиляторов за прошедшее время. :)
А можно поискать проект одного австралийца, под названием С-- - когда я его увидел спустя где-то лет 7, аж слёзы на глаза навернулись, сколько времени можно было тогда сэкономить...

>> Так оно и есть. На ассемблере легко определяются длины данных, не привязанные
>> к исторически сложившимся величинам... И транслятор не будет проявлять повышенный интеллект,
>> выравнивая каждую переменную по границе слова(байта).
> Правильно ли я вас понял, что можно средствами некоторого ассемблера определять даже
> 9-битные данные, чтобы работать с их массивами? Если да, то нельзя

Неправильно - можно определить массив данных (вот он - массив - будет, вероятнее всего выровнен компилятором по границе байта или слова), а какой разрядности данные там будут храниться и обрабатываться - это уже определяет сам программер в своём коде. И вот тут уже компилятор (что от MS, что от Borland, что от Watcom, также, думаю, и другие) не будет проявлять повышенный интеллект и пытаться выровнять манипуляции программиста по границе 8/16/32 бит.

> ли пример?

Нельзя, увы. :( Архивы наработок остались в том институте. Где-то на дискетках, если не деградировали, вероятно есть и у меня, но попробуй найди сейчас работоспособный дисковод на 5"... :( Концепцию решений помню, а вот подробности... :( Помню, - оптимизировали на битовом уровне...

>> Тех же лет 25 назад в одном из институтов морской биологии...
> Молодцы, что могу сказать. На безрыбье как только не извернёшься.

Да... Для проекта было "выбито" очень много, как нам тогда казалось, денег... Глубоководных зондов было что-то около полусотни, а для кодинга и обработки данных были приобретены аж 3 PC-AT на 286 с EGA!...
А ведь по тем временам это был громадный шаг вперёд, диссертаций на основании полученных данных было почти столько же, сколько и данных - море... Кому оно сейчас надо, кто об этом знает? Кто помнит выводы и опирается на результаты? Кто возьмётся перепроверять выкладки и подвергать сомнениям, вылавливать блох ошибок? Это уже пройденный этап, доказанные теоремы используются как аксиомы. Как и в Вашем случае с разрядностью Байта.

Ответить | Правка | ^ к родителю #71 | Наверх | Cообщить модератору

83. "Отказаться от UTF-8"  +/
Сообщение от Andrey Mitrofanov on 11-Авг-17, 10:28 
> Да отчего ж не поверю - поверю. Глядя на то, какой сейчас
> код получается на том же gcc, можно констатировать определённые успехи компиляторов
> за прошедшее время. :)

Забавник.

За "успехи компиляторов" ещё в 77ом году Бэкусу Тьюринговскую премию дали: компилятор фортрана практически всегда выдавал код лучше, чем [тогдашние, да] кодеры на асмах.

""В 1977 году за труды по созданию Фортрана и вклад по формализации специфицирования языков программирования награждён премией Тьюринга. Тьюринговскую лекцию «Можно ли освободить программирование от стиля фон-Неймана?»[2] посвятил комбинаторному программированию и представил [,,,]""
  --https://ru.wikipedia.org/wiki/%D0%91%D1%...

> А можно поискать проект одного австралийца, под названием С-- - когда я

Ответить | Правка | ^ к родителю #77 | Наверх | Cообщить модератору

94. "Отказаться от UTF-8"  +/
Сообщение от asphinx on 11-Авг-17, 14:36 
>> Да отчего ж не поверю - поверю. Глядя на то, какой сейчас
>> код получается на том же gcc, можно констатировать определённые успехи компиляторов
>> за прошедшее время. :)
> Забавник.
> За "успехи компиляторов" ещё в 77ом году Бэкусу Тьюринговскую премию дали: компилятор
> фортрана практически всегда выдавал код лучше, чем [тогдашние, да] кодеры на
> асмах.

Системное низкоуровневое программирование на фортране??? Под IBM PC XT в 1990-91 году??? Ню-ню... Мсье знает толк в извращениях!.. Я бы ещё оспорил кто из нас более забавник...
Это сейчас легко в справочник в интернете залезть и цитатку выдернуть...

PS: Не забываем, что интернет тогда был диал-апный и, вообще - где-то там, "за бугром". Просвещённых счастливчиков, которые знали что такое BBS и FIDO, можно было по всему Союзу пересчитать по пальцам! Спасибо, что хоть masm с tasm-ом, 2-й или 3-й версии, что ли, откуда-то были... Коллега значительно позже привёз из столицы 5-й masm, да 6-й sourcer - на него как на героя-добытчика смотрели, ходили клянчили с дискетками, хотели втихаря от начальства самовольно на доску почёта повесить... :)
Встроенный в MS-DOS debug-гер - то ещё извращение!.. После него mail, tex или vi освоить - плёвое дело! Документацию по функциям DOS и BIOS на матричном принтере после работы печатали. Митинский рынок ещё не зародился вообще - народ ездил на аэродром в Тушино... Нужная информация добывалась по крупицам и с боем, зато делились ею друг с другом в кругу коллег и сподвижников легко и без оглядки. Справочники типа "Процессор 80286 и его программирование" заказывали через межбиблиотечный абонемент, ждали месяцами, а потом ночами в общаге конспектировали и переписывали!..

Фортран от Бэкуса!... Да-да-да!.. Вы бы его попробовали достать ещё вначале!.. :( Скажете, тоже...

Ответить | Правка | ^ к родителю #83 | Наверх | Cообщить модератору

73. "Отказаться от UTF-8"  +/
Сообщение от Andrey Mitrofanov on 11-Авг-17, 09:18 
> Тех же лет 25 назад в одном из институтов морской биологии на
> базе IBM PC XT, с 5-мегагерцовым, если я правильно помню, процессором

4.77 же! |)

> блок часто болел - оставили опираться на функциях BIOS. "Работало отлично",
> безо всяких осадков - как мы накодили, так и работало...

Раньше были времена,
    А теперь мгновения.
  Понимался раньше <ой! />,
      А теперь - давление.

Ответить | Правка | ^ к родителю #70 | Наверх | Cообщить модератору

18. "Отказаться от UTF-8"  +/
Сообщение от Led (ok) on 07-Авг-17, 23:34 
А у тебя точно все-все французские символы (которые Лев Николаевич впендюрил в эту книженцию) в твоёй кои8 правльно сохранились? А в "Войне и мире"?
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

19. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 08-Авг-17, 08:19 
> А у тебя точно все-все французские символы (которые Лев Николаевич впендюрил в
> эту книженцию) в твоёй кои8 правльно сохранились? А в "Войне и
> мире"?

АК был с Мошковской библиотеки. Там с текстом всё нормально -- французских букв нет.  Вот так там, например, в Войне и мире: "Еh bien, mon prince. G#234;nes et Lucques ne sont plus que des apanages, des поместья, de la famille Buonaparte.  Non, je  vous pr#233;viens..."

В целом же, да, вкрапления английских букв и всяких "nbsp;" в тестах нежелательны, т. к. они уменьшают время обработки UTF-8, изменяя результат в её пользу. Т. е., в тестах на кириллице без вкраплений проигрыш UTF-8 оказался бы больше.

Переделывать я всё равно не буду. Правильный тест должен проверять алгоритм, а не собранную программу. Пусть эти тесты сделает тот, кто в этом шарит и мог бы провести их минимальными усилиями. В идеале -- докажет:
существует оптимальный алгоритм преобр. <1-байтная кодировка> -> <универсальное 4-байтное представление> и обратно; существует оптимальный алгоритм преобр. <UTF-8> -> <универсальное 4-байтное представление> и обратно; сравнит их сложности. Ну, или, хотя бы, экспериментальную базу увеличит.

Ответить | Правка | ^ к родителю #18 | Наверх | Cообщить модератору

25. "Отказаться от UTF-8"  +/
Сообщение от ыы on 08-Авг-17, 14:17 
> В идеале -- докажет:
> существует оптимальный алгоритм преобр. <1-байтная кодировка> -> <универсальное 4-байтное
> представление> и обратно; существует оптимальный алгоритм преобр. <UTF-8> -> <универсальное
> 4-байтное представление> и обратно; сравнит их сложности. Ну, или, хотя бы,
> экспериментальную базу увеличит.

алгоритм в котором участвует абстрактная 1-байтная кодировка и абстрактная же 4-байтная кодировка? могу нарисовать. Легко :)

для реальных 1-байтных кодировок и реальных  4-байтных - оптимальный алгоритм будет разным.
это же элементарно. если бы вы поинтересовались как устроены кодировки - вы бы это надеюсь поняли.

Ответить | Правка | ^ к родителю #19 | Наверх | Cообщить модератору

29. "Отказаться от UTF-8"  +1 +/
Сообщение от Sergey Maslennikov (ok) on 08-Авг-17, 17:19 
> ... абстрактная 1-байтная кодировка и ...
> реальных ... кодировок

Что такое абстрактная кодировка? Ну, или -- реальная? Или, чем они друг от друга отличаются?

Ответить | Правка | ^ к родителю #25 | Наверх | Cообщить модератору

57. "Отказаться от UTF-8"  +/
Сообщение от DeadLoco (ok) on 10-Авг-17, 04:37 
> Возможен ли строгий ответ?

Да. Возможен.

Геморрой, связанный с зоопарком "кодировок, эффективных для сжатия", многократно превосходит неудобства от увеличенного размера файлов в мультибайтной универсальной кодировке.

В данном конкретном случае повышенный расход дискового пространства, траффика и тактов процессора - это сознательная и приемлемая плата за унификацию хранения текстов.

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

96. "Отказаться от UTF-8: геморрой"  +2 +/
Сообщение от Sergey Maslennikov (ok) on 23-Авг-17, 17:31 
> Геморрой, связанный с зоопарком ... В данном конкретном случае повышенный расход
> дискового пространства, траффика и тактов процессора - это сознательная и приемлемая
> плата за унификацию хранения текстов.

Ну, вы уж слишком категоричны. Тред, всё-таки, в теме "Оптимизация и тюнинг", т. е. для тех, кому геморрой не "зоопарк", а "повышенный расход". В исходном сообщении не было никакого "данного конкретного случая". Речь не о полном отказе от UTF-8, а о принятии решения -- в каких случаях стоило бы посмотреть в сторону однобайтной кодировки. Понятно, что большинство программистов не будет заморачиваться поддержкой кучи кодировок внутри своих программ, но кто-то из них мог бы согласиться вставить опциональные конвертеры на входе и выходе. Без конвертеров тоже: если программа берёт на вход и выводит текст в UTF-8, вполне могут найтись люди, которые допишут к ней внешние паковщики с конвертерами прямо на своих системах (не геморрой же!), потому что паковать непосредственно UTF-8 системам сложнее. В частности, распаковка кириллического текста в KOI8-R с последующей конвертацией в UTF-8 (+ в обратном порядке) происходит в 1.6 раза быстрее, чем просто распаковка/запаковка того же текста в UTF-8 [1]. И не так уж это очевидно. По крайней мере, я раньше предполагал обратное. А с UTF-8, да, всё хорошо, если только она использована не для кириллицы.

С другой стороны, геморрой -- это тоже экспериментальный факт. Народ считает, что геморрой, значит так оно и есть.

Сноска:
[1] Сжатие -- xz без опций, конвертация -- iconv, текст -- в основном кириллица; если время загрузки процессов много меньше времени их работы.

Ответить | Правка | ^ к родителю #57 | Наверх | Cообщить модератору

97. "Отказаться от UTF-8: геморрой"  +/
Сообщение от pavlinux (ok) on 24-Авг-17, 01:57 
>  Народ считает, что геморрой, значит так оно и есть.

Когда я был маленький и еб....ый, я тоже думал, что каждая моя мысль революционна :)

---

Хотя некоторые так и не были решены.

Ну например: Бэкап, на минимальное кол-во DVD-дисков, базы данных и всей системы.
В ручную, при объёме данных равному N DVD, легко влезало на N+1 DVD.

Угадай как решилось?

Ответить | Правка | ^ к родителю #96 | Наверх | Cообщить модератору

98. "Отказаться от UTF-8: геморрой"  +2 +/
Сообщение от Anonimous on 24-Авг-17, 08:01 
> ... думал, что каждая моя мысль революционна ...
> например: Бэкап, на минимальное кол-во DVD-дисков ... Угадай как решилось?

В смысле, кириллица станет такой же нужной, как DVD-диски?

Ответить | Правка | ^ к родителю #97 | Наверх | Cообщить модератору

104. "Отказаться от UTF-8: геморрой"  +/
Сообщение от pavlinux (ok) on 08-Окт-17, 02:36 
>> ... думал, что каждая моя мысль революционна ...
>> например: Бэкап, на минимальное кол-во DVD-дисков ... Угадай как решилось?
> В смысле, кириллица станет такой же нужной, как DVD-диски?

В смысле, что писать в программе тип short int, если оно всё равно
в процессоре занимает регистр длиной в long long int.
  

Ответить | Правка | ^ к родителю #98 | Наверх | Cообщить модератору

99. "Отказаться от UTF-8: геморрой"  +/
Сообщение от DeadLoco (ok) on 24-Авг-17, 23:38 
> Угадай как решилось?

dump | tar | split
cat | tar | restore

Ответить | Правка | ^ к родителю #97 | Наверх | Cообщить модератору

100. "Отказаться от UTF-8: геморрой"  +/
Сообщение от pavlinux (ok) on 26-Авг-17, 04:04 
>> Угадай как решилось?
>
dump | tar | split 
> cat | tar | restore

Не, RAID с HotSwap купили. Пара дисков укатывают в сейф, пара работают.  

Ответить | Правка | ^ к родителю #99 | Наверх | Cообщить модератору

102. "Отказаться от UTF-8: геморрой"  +/
Сообщение от . on 03-Окт-17, 05:59 
>>> Угадай как решилось?
> Не, RAID с HotSwap купили. Пара дисков укатывают в сейф, пара работают.

Это называется решилось?!?!

Да вы под веществами! :)

Ответить | Правка | ^ к родителю #100 | Наверх | Cообщить модератору

103. "Отказаться от UTF-8: геморрой"  +/
Сообщение от pavlinux (ok) on 08-Окт-17, 02:27 
>>>> Угадай как решилось?
>> Не, RAID с HotSwap купили. Пара дисков укатывают в сейф, пара работают.
> Это называется решилось?!?!

Да, бэкап есть и стабилен. Какими способами, никого ни е...т. :)
Есть много других прекрасных и главное оплачиваемых дел нежели поиск решения NP-задачи.

Ответить | Правка | ^ к родителю #102 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема


  Закладки на сайте
  Проследить за страницей
Created 1996-2017 by Maxim Chirkov  
ДобавитьРекламаВебмастеруГИД  
Hosting by Ihor