Yo diría que este apellido proviene del Valle de Baztán, en Navarra, y significa en euskera o vascuence algo así como "lugar de curas".
Sus diferentes grafías actuales incluyen, además de Apesteguía, otras como: Apesteguia, Apezteguía, Apeztegia, Apeztegía, Apesteguí, Apeztegui,Apeztegi.....
En realidad todas ellas tienen un origen vasconavarro común y reflejan únicamente el paso o la instalación de personas con este apellido por distintos territorios de Navarra, Euskadi u otros lugares del mundo, en los cuales el apellido se va amoldando a modos de pronunciación más conocidos en cada lugar.

También sin apoyo documental, parece más razonable que los Apeztegia baztaneses fueran poco a poco bajando hacia el sur y se instalaran en Baigorri o en Cirauqui, donde su apellido fue quizás amoldándose a la pronunciación 's' de la 'z' inicial.
Luis Apesteguía.

Por lo que yo sé, el apellido Apesteguía procede de la villa de Baigorri en el partido judicial de Estella (Navarra). De allí dimanaron ramas a Errazu y Larraga, de esta última fue el general D. Fermín de Apesteguía que pasó al Perú. No puedo asegurar que mi información sea correcta