Что сделать, чтобы при upload'е бинарных файлов на сервер они не перекодировались?

Вы можете воспользоваться директивой CharsetRecodeMultipartForms сервера Apache. Для этого необходимо в каталоге, где размещены скрипты, производящие upload, поместить файл .htaccess следующего содержания:

CharsetRecodeMultipartForms Off

Внимание!

Если через эту же форму Вы передаёте какие-либо другие данные, то они тоже не будут перекодироваться. Эти данные необходимо перекодировать самостоятельно.