Creo que puede venir del vasco con el significado de roquedal o lugar abundante en rocas.
En Batua (vasco moderno unificado) Haitz significa roca, pero en su variedad vizcaína Hatx, atx o ach (depende de como se escriba) significa lo mismo, roca.
La terminación -aga indica una cualidad o abundancia de algo. Por ejemplo Arriaga viene de arri, piedra, significando pedregal. Madariaga, viene de madari, pera, significando peral y así muchos ejemplos como sagarraga, manzanal; Elorriaga, espinal; Iturriaga, de iturri, fuente, significando manantial o zona de fuentes.