فرانک گری با نام اصلی افرایم اوون گلدبرگ در تورنتو، کانادا متولد شد. در سال 1947 هنگامی که نوجوان بود به همراه خانواده اش به لس آنجلس نقل مکان نمود و شهروند امریکا شد. پدر او نام خانوادگی خود را در هنگام مهاجرت به گری تغییر داد و افرایم، در سن 20 سالگی، نام فرانک را برای خود برگزید.
گری جوان، مردد در انتخاب جهت حرفه ی خود، در حین گذراندن دوره های مختلف درسی در کالج لس آنجلس، به رانندگی کامیون شهری مشغول بود.پس از اولین دوره ی آموزش معماری، شیفته ی امکانات و فرصت های هنر شد؛ اگر چه در ابتدا متوجه کمبود مهارت در خود به عنوان یک طراح گشت. معلمان دلسوز و برخورد اولیه با معمار مدرنیست، رافائل سوریانو، انتخاب این حرفه را در وی تایید نمود. او بورسیه ی تحصیلی دانشگاه کالیفرنیای جنوبی را به دست آورد و در سال 1954، در رشته ی معماری فارغ التحصیل شد.
گری به کار تمام وقت در شرکت مطرح لس آنجلسی همکاران ویکتور گروئن پرداخت؛ جایی که او را به عنوان یک کارآموز می شناختند اما کار او به واسطه ی خدمت در ارتش ایالات متحده تمام شد. پس از آن، گری به تحصیلات تکمیلی هاروارد در رشته ی طراحی وارد شد، جایی که او برنامه ریزی شهری خواند اما بدون اتمام تحصیلاتش به لس آنجلس برگشت.پیشاز بازگشت دوباره به شرکت ویکتور گروئن، مختصری هم در شرکت پریرا و لاکمن به کار پرداخت. گری ناآرام و مضطرب شده بود. با همسر و دو فرزند خود به پاریس رفت و یک سال در دفتر معمار فرانسوی آندره رمون به کار پرداخت و با کارهای پیشگام مدرنیست لوکوربوزیه آشنا شد.
در سال 1962، گری و خانواده اش از پاریس به لس آنجلس بازگشتند و او شرکتی را که اکنون با نام همکاران گری می شناسیم را تاسیس نمود. ظرف مدت چند سال، او همچنان به کار در سبک مدرن پرداخت اما به طور فزاینده ای به صحنه ی هنر آوارنگارد در حال رشد در جامعه ی ساحلی ونیز و سانتا مونیکا علاقه مند شد. گری، روش خلاقه ی خود را در بازسازی خانه ی خود یافت و تبدیل آنچه او خود آن را "یک خانه ی کوچک گنگ با افسون" می خواند به نمایشی از سبکی کاملا جدید از ساختمانی رام.
او از متريال های معمول و غیردوست داشتنی امریکایی چون فنس های زنجیره ای، آلومینیوم چین دار و تخته سه لای بدون پرداخت را انتخاب و به عنوان عناصر بیانی پر زرق و برق استفاده نمود؛ در حالی که دیوارهای داخلی خانه را برای آشکار کردن عناصر ساختاری آن ها برهنه کرده بود. خانه ی گری توجه انتقادی بسیاری را به خود معطوف نمود و او استفاده از عناصر تخیلی در کارهای تبلیغاتی خود را آغاز نمود. شهرت بین المللی او با دریافت پریتزکر پرایز 1989، معتبرترین جایزه ی معماری جهان، تایید شده است.
جذاب ترین طراحی گری، موزه ی جدید گوگنهایم در بیلبائو، اسپانیا است که در سال 1997، به اتمام رسید. مدرنیست های سنتی کار او را عجیب و غیرعادی خواندند اما معماران برجسته ای چون فیلیپ جانسون، به او کمک کردند تا در گروه نخبگان معماری شناخته شده با نام عمومی تر "معمار معروف ها" بیشتر بدرخشد. در سال 2004، او سالن کنسرت والت دیزنی در مرکز شهر لس آنجلس را به اتمام رساند.
در سال 2006، گری موضوع فیلم مستند سیدنی پولاک با نام اسکچ هایی از فرانک گری شد. او همچنین در سال 2005 میهمان انیمیشن سیمپسون ها بود.
اکتبر 2014، در یک کنفرانس مطبوعاتی در اسپانیا، گری اعلام کرد: "اجازه دهید به شما یک چیز بگویم. در جهانی که ما در آن زندگی می کنیم، 98 درصد از آن چه ساخته می شود و طراحی امروز، گه خالص است. هیچ احساسی از طراحی یا احترام به انسانیت یا چیز دیگری در آن ها نیست. تنها ساختمان های بد هستند و همین."