عباس زریاب خویی در ۲۰ مرداد ۱۲۹۸ هجری خورشیدی در شهر خوی به دنیا آمد. تحصیلات ابتدایی و دورهٔ اول دبیرستان را در خوی گذراند و چون امکان ادامه تحصیل در خوی وجود نداشت نزد یکی از روحانیون شهر به نام شیخ عبدالحسین اعلمی به یادگیری صرف و نحو عربی، اصول و دیگر علوم حوزوی پرداخت. در سال ۱۳۱۶ به قم رفت و شش سال نزد علمای تراز اول حوزهٔ علمیهٔ قم به تحصیل مشغول بود. در همین دوره، در جلسه‌های درس شرح منظومه سبزواری و اسفار ملاصدرا نزد آیت‌الله خمینی حاضر می‌شد. در سال ۱۳۲۲ فوت پدر باعث شد تا زریاب به شهر خوی بازگردد و مدتی به تدریس در دبیرستان بپردازد.
در شهریور ۱۳۲۴ هم‌زمان با نآرامی‌های ناشی از ادامهٔ اشغال آذربایجان، ناچار به ترک خوی شد و به تهران آمد و دو سال اول را با سختی در تهران زندگی کرد، و به نوشتن مقاله در نشریه‌های علمی و ادبی پرداخت تا اینکه به کار در کتابخانه مجلس شورای ملی مشغول شد. هم‌زمان دورهٔ لیسانس را در دانشکده معقول و منقول (الهیات) دانشگاه تهران گذراند. در کتابخانه مجلس شورای ملی بود که با سید حسن تقی‌زاده آشنا شد و مورد توجه خاص او قرار گرفت. بدین گونه بود که پس از تأسیس مجلس سنا و انتخاب تقی‌زاده به ریاست آن در سال ۱۳۲۸ و تأسیس کتابخانهٔ مجلس سنا، محل خدمت عباس زریاب خویی به این کتابخانه منتقل شد و چندی بعد به‌عنوان مدیر کتابخانهٔ مجلس سنا معرفی شد.
در سال ۱۳۳۴ بورس مطالعاتی بنیاد هومبولت در آلمان غربی (بنابر معرفی سید حسن تقی‌زاده) در اختیار عباس زریاب خویی قرار گرفت. عباس زریاب خویی به مدت پنج سال در شهرهای ماینز و فرانکفورت و مونیخ به تحصیل و مطالعه در رشته‌های تاریخ، علوم و معارف اسلامی، فلسفه و فرهنگ تطبیقی پرداخت. در سال ۱۳۳۹ از دانشگاه یوهانس گوتنبرگ شهر ماینز در رشته‌های تاریخ و فلسفه درجهٔ دکتری گرفت. عنوان رساله دکتری او “گزارش در باره جانشینان تیمور برگرفته از کتاب تاریخ کبیر جعفری” تألیف ابن محمد حسینی بود که زیر نظر هانس روبرت رویمر و پرفسور شل از ایران‌شناسان مشهور آلمانی تهیه شد.
دکتر عباس زریاب خویی در سال ۱۳۳۹ به تهران بازگشت و مجدداً در کتابخانهٔ مجلس سنا مشغول به کار شد. در سال ۱۳۴۱ به دعوت والتر هنینگ که آن زمان کرسی استادی در دانشگاه برکلی کالیفرنیا داشت به برکلی رفت و به مدت دو سال در آن دانشگاه به تدریس زبان و ادبیات فارسی مشغول بود. با اینکه هنینگ پست دائمی در دانشگاه برکلی برای زریاب در نظر گرفته بود ولی او ترجیح داد که به ایران بازگردد و دانسته‌ها و تجربه‌های خود را در اختیار دانشجویان ایرانی بگذارد. دکتر عباس زریاب از سال ۱۳۴۴ استاد تاریخ در دانشکده ادبیات دانشگاه تهران بود، و از آنجا که در رشته‌های دیگر مانند ادبیات فارسی، ادبیات عرب، فلسفه، زبان‌شناسی و معارف اسلامی صاحب‌نظر بود، تا سال ۱۳۵۷ که در دانشگاه تهران اشتغال داشت، در اغلب این رشته‌ها تدریس و سخنرانی می‌کرد.
در همین دوران سمت‌های علمی مختلفی را به عهده داشت، از جمله عضو انجمن فلسفه، عضو هیئت امنای بنیاد فرهنگ ایران، عضو فرهنگستان تاریخ و عضو بنیاد شاهنامه فردوسی بود. علاوه بر اینها با دایرهالمعارف فارسی (زیر نظر غلامحسین مصاحب) و دانشنامه ایران و اسلام (زیر نظر احسان یارشاطر) همکاری داشت و مدخل‌های بسیاری در این دو دانشنامه به قلم اوست. دکتر عباس زریاب خویی از دیر زمان عضو انجمن بین‌المللی شرق‌شناسی (آلمان)، و عضو مجمع بین‌المللی کتیبه‌های ایرانی (انگلستان) بود.
به نوشتهٔ احمد تفضلی: “پس از انقلاب، دستگاه اداری دانشگاه قدر او را ندانست و زریاب اجباراً دانشگاه را ترک گفت و از این راه دانشگاه بود که زیان فراوان دید نه او. فراغت ایام بازنشستگی او را مدتی به کنج خلوت دلخواستهٔ پژوهش کشاند، ولی هنگامی که بنیاد دایرهالمعارف اسلامی و مرکز دایرهالمعارف بزرگ اسلامی و دایرهالمعارف تشیع تأسیس شد، بر همهٔ اهل علم و معرفت معلوم بود که هر دایرهالمعارفی در این زمینه‌ها بدون همکاری پرثمر زریاب ناقص خواهد بود. از این رو بود که همه خاضعانه دست کمک به سوی او دراز کردند و از او درخواست همکاری کردند. زریاب کوشید تا رنجیدگی خود را از دستگاه اداری دولتی دانشگاه به دست فراموشی سپرد. با دل و جان با سازمان‌های علمی نامبرده به همکاری پرداخت و اکنون مقالات او زینت‌بخش این دایرهالمعارف‌هاست.”
دکتر عباس زریاب خویی در ۱۴ بهمن ۱۳۷۳ در تهران درگذشت.