при выключенном  CHS_ACCES_FIRST или нет

насчет версии это достаточно важно т.к. используетя asm оптимизация
 CHS_ACCES_FIRST должен быть закоментирован
Насчет кварца Вы уверены что он точно 12 мгц может бракованный .
Как вы выставляете флаги mege при программировании.

все хватает У Вас какая версия avr нужна  WinAVR 20040404
Когда грузите файл в yaap программа не должна вылезать за 0x4000

так играть NOP нельзя    
только добавлять или убирать
asm volatile ("nop"); !!!!!!!!!!!!!!!!!!!!!!!!!!!

верните все назад и 'nop' тоже
закоментируйте CHS_ACCES_FIRST
раскоментируйте    
//delay10us();   в функции u08 ATA_ReadLBA0(u32 LBA, u08 NumSectors, u08 *Buffer) файл ata_if.c

если не поможет
надо определить где виснет плеер
ставте

PRINT("START funname");
вызов функции
PRINT("END   funname");

в цепочке init_fat()

например
PRINT("START init_fan()")
init_fat();
PRINT("END init_fan()")

обязательно закоментируйте USE_LOW_EXT

Лучше из под доса. У Винды на все свое мнение


Да.
Обыкновенные временные задержки
Количество от 1  и пока не заработает но не больше 10
Чтобы посмотреть что читатеся добавте это код
   
после
#else
   // read partition table
   ATA_ReadLBA0(0,   1, FAT_CACHE);
#endif
в функции u08 init_fat(void)  файл fat.c

Еще можно включить PWR_BEEPS 
если есть писк, VS1001 работает

Да

 CHS_ACCES_FIRST - должен быть закоментирован.
Еще две функции

void WriteBYTE(u08 addr, u08 dat)
u08 ReadBYTE(u08 addr)


asm volatile ("nop");      // allow pin change      
   cbi(PORTB, 1);             // set DIOR lo
   asm volatile ("nop");      // allow pin change                  
   asm volatile ("nop");      // allow pin change         
         


там тоже NOP надо подправить

//#define TEST_MEM   
//#define USE_LOW_EXT
для отладки

TEST_MEM     проверка внешней  памяти
#define PRINTUNKOWN            вывод неопознанных комманд IPBUS
//#define PLAY_WITHOUT_HU  работа без магнитофона
/#define LOG  лог обмена по IPBUS
HEXDUMP      не используется
ENABLE_CRC осталась от прежних версия незнаю работает ли


если включить  ENABLE_SERIAL  то в прошивке просто не остается места Компилятор должен ругаться.
Поэтому надо на время чегото выключит, например TAG(файл mpeg.c закоментировать #define TAGON)

Вообще я посетовал бы такой алгоритм:
выключить TAGON
включить ENABLE_SERIAL,TEST_MEM, PLAY_WITHOUT_HU (забыл)
скомпилировать и загрузить прошивку
подлючить к COM порту
в терминале должно появиться 'TEST mem ok' или ошибки памяти
это можно сделать без винта и HU
убедились что память и UART работают

выключаем TEST_MEM

теперь плейр должен вывести 'Init ok\nGoing to main loop...'  начать играть .Если нет играемя с  NOP's

Вдогонку
CHS_ACCES_FIRST закоментируйте.

Попробуй подать на мегу пониженное питание через диод , если станет лучше, то шум по питанию. Поставь конденсатор прямо рядом с мегой, лучше танталовый.

У  Вас скорее всего читается мусор с диска. Во первых:  какой кварц меги, не меняли? Во вторых побрубуйте уменьшить/увеличить
колличесвто NOP в файле ata_if.c функция (u08 ExecuteCommand(u08 NumSectors, u08 *Buffer)).


for(i=BPS / MINIBUFFERSIZE;i;i--)
      {  // cycle sector by minibuffers
         cli(); //Need for block HU message
         SetAddress(CMD_A + CMD_DATA);         // setup addressing and chip selects         
         DDRA=0x00;            // port A as input
         PORTA=0xFF;            // activate Pullups
         DDRC=0x00;            // port C as input
         PORTC=0xFF;            // activate Pullups
         
         asm volatile ("movw r30,r28");
         asm volatile ("adiw r30,1");             
         for(j=MINIBUFFERSIZE;j;)
         {   // cycle minibuffer by words         
            cbi(PORTB, 1);                   // set DIOR lo            
            
            asm volatile ("nop");       // allow pin change !!! BE carefull! On other clocks change number of 'nop'
            asm volatile ("nop");       // allow pin change                                          
            
            //asm volatile ("nop");       // allow pin change                                          
            //asm volatile ("nop");       // allow pin change


то что выделено

Yes. I made yampp and ipbus transceiver in one controller (mega162) on one board.
Last firmware http://www.vitat.spb.ru/forum/index.php?action=dlattach;topic=18.0;id=62 lasted 
PCB for it (PCAD)   http://www.vitat.spb.ru/forum/index.php?action=dlattach;topic=125.0;id=63
Schematic (PCAD)  http://www.vitat.spb.ru/forum/index.php?action=dlattach;topic=125.0;id=64

See your "PATH variables".  "C:\WinAVR\avr\" and  "C:\WinAVR\" must include in 'PATH'.

У меня HDD hitachi живет уже больше года и без проблем. При этом я его использую еще для переноса данных(как очень большую флеш )