rifの中身でわかってる範囲。

ビックエンディアン。
先頭の２バイトが、0x2000 (0x00,0x20)で始まってる。
続いて２バイト、Painter5だと0x00000(0x00,0x00)それより後は、0x00002。
その後 高さ、幅が 2byteずつ。
飛んで0x2Eから、dpiが固定小数点(16bit/16bit)で。
0x40から謎のバイナリ 0x00 から 0xFF まで。なんなんでしょう？
後は、サムネイル情報のところに書いた通り。

ifrifpp/plugin_rif 共にこの情報から、画像のサイズとDPIを返しています。

続 Xのサムネイル ピクセルデータ編

Xの埋め込みサムネイルデータのピクセルデータは、左上から素直に、0RGBと並んでるようです。なので、Windows DIBに24bitカラーならBGRと反対に入れてあげればOK

Xのサムネイル

まず、RIFファイル内の数値表現は、ビックエンディアン。
ファイルの先頭から、0x34～0x37は先頭からの絶対値でリソース(?)の開始位置。
そこから4バイトが次のブロックへの相対位置。
X以前は、そこから"PCOL"が始まる。Xで保存すると其処に、"RETP"が始まる。
"RETP"の次の4バイトは、ピクセルデータの開始位置への相対位置。
続けて、ピクセルデータの長さ、4バイト。
2バイトで次ぎのブロック名の長さ。
1バイトの文字列長に続いて"Preview"。
4バイトの０。
2バイトづつ高さ、幅。
残りはピクセルデータが、4バイト単位で並んでる模様。RGBの順序は後ほど。

きっと、Macのリソースファイルとかのフォーマットを知ってるともっと分かるのかもしれない。