אביהו מדינה הוא בנם השלישי של לאה ואהרון מדינה ז"ל. אמו לאה ילידת ירושליים בת למשפחת מיסק שעלו ארצה ב 1906 – מתימן. אביו עלה בשנת 1939 אף הוא מתימן, כאן בארץ שימש כהן וזמר בלהקת שמחות, פרנסתו הסדירה הפיק מעבודתו כשרת בביה"ס בעירית ת"א.
אביהו נולד ב – 19.8.1948 – בשכונת שבזי בת"א, שם התגוררו הוריו עד 1954 – בשנה זו עקרו הוריו לבית פרטי מרווח יותר בחולון.
אביהו למד 4 שנים בביה"ס ממלכתי דתי ישורון בחולון וסיים ארבע שנים נותרות בביה"ס היסודי ברנר בת"א. את לימוד התיכון סיים אביהו בשנת 1967 בביה"ס של קיבוץ כיסופים.
בשנת 1967 התגייס לצבא ושם שירת שלוש שנים בחיל שיריון כמפקד טנק, ובתפקיד זה לחם במלחמת יום כיפור ומלחמת לבנון.
אביהו השתחרר משירות סדיר ב 1970 – והחל לעסוק בכתיבה והלחנה של שירים כאשר שאיפתו היתה להיות יוצר ומבצע של שיריו.
כבר בשיר הראשון שהלחין וכתב (אל תירא ישראל) זכה בפרס שלישי בפסטיבל הזמר המזרחי בשנת 1971 כיוצר, ומאותה שנה זכה אביהו בפסטיבלים השונים במשך עשר שנים רצופות ב 11 פרסים כמלחין ומלילן. אביהו ויתר על שאיפתו המקורית להיות זמר יוצר והיפנה את כל האנרגיה בעשיה אומנותית לשובת הרחבה והעמקה של סיגנונו המיוחד ישראלי ים תיכוני, בכתיבה הלחנה והפקה ובעידוד יוצרים ומבצעים צעירים ומוכשרים בתחום הזמר הישראלי ים – תיכוני בראשית דרכם, וביניהם: אורי שבח, משה הילל, בועז שרעבי, עופרה חזה, שימי תבורי, מרגלית צנעני, אבנר גדסי, דקלון, זוהר ארגוב, אייל גולן, חיים משה, ציון גולן, ישי לוי ועוד........
את מרבית זמנו הפנוי הקדיש אביהו למלחמה על מקומו של הסגנון הישראלי ים – תיכוני בתקשורת ובהוויה התרבותית הממסדית, באמונה כי הסגנון הים- תיכוני הם סגנון ישראלי לגיטימי, הנובע מתוך שורשים יהודיים מסורתים ותרבותיים ומתוך ההוויה הישראלית המגוונת וראוי לו לסגנוןהישראלי ים –תיכוני יחס שווה כמו לסגנון ישראלי אחר.
במלחמתו ארוכת השנים האמין אביהו שחופש הביטוי, חופש היצירה וחופש העיסוק הם מסוג הזכויות שחובה להילחם עליהם ולא למען לתת הרגשת שייכות ושותפות לכל זרת בחברה הישראלית והדמוקרטית.
בין מאות השירים שנכתבו והולחנו על ידו, אל תירא ישראל, לנר ולבשמים, ארץ אהובה, כינור דוד, חידה אץ לי, מזלות, רעיה, שיר לאחותי, מה יהיה, שבחי ירושליים, חג לי, אבי, נעלה, הפרח בגני, יום שישי הגיע, להיות אדם, אמא, תפילה של אבא, ברכנו, האסיר, הולך אדם, אליך אלוהי, כבר עברו השנים, לשיר בקול ערב, ועם כל זאת, לב זהב, לבד יושבת, סימנם של דרך, רחל, שלום תרכנו, אל תשליכני, תן לזמן ללכת, אני נשבע לך, אהובתי בת חמישים, בין הטוב והרע ועוד......
בשנת 1993 זכה בפרס ההסתדרות על שרת על מפעל חיים בתחום המוסיקה
בשנת 1994 זכה אביהו בפרס צילינדר הכסף מטעם אומנות לעם כאומן המבוקש ביותר.
בשנת 1995 זכה אביהו בפרס אקו"ם על מפעל חיים בתחום המוסיקה הקלה.
בשנת 1995 נבחר אביהו על ידי מוזיאון הלאומי אמריקאי (חסמיטסוןניין) כיוצר הישראלי המאפיין את המוסיקה הישראלית.