徳島県出身。尾崎３兄弟の末弟で、兄２人に素質は劣ると言われたが、持ち前の勝負強さで永久シード選手となった。既にゴルフ界でトップにいた兄・将司、プロ野球ヤクルトのドラフト指名を断ってゴルフに進んだ次兄・健夫を追って将司の元に飛び込み、プロを目指した。千葉日大一高卒業後、1977年にプロテストに合格。当初は芽が出なかったが、1981年に自身の最終戦カシオワールドで３位となってシード権を獲得。1984年静岡オープンで初勝利を挙げてから一気に開花した。その後２勝を挙げ、前田新作との賞金王争いに惜しくも敗れたが賞金ランク２位に入った。以後、勝利を積み重ね、1988年日本シリーズで初の日本タイトル。1990年に日本プロマッチプレー、日本シリーズを制した。1991年日本シリーズでは大会前日に父・実さんが死去し、欠場した兄２人から託されて出場、優勝を果たして初の賞金王になった。1993年から米ツアーに挑戦し、優勝こそなかったが８年間シード権を確保した。1999年には日本プロ、日本オープンを制し、日本タイトル４冠を達成、２度目の賞金王になった。シニアでも米チャンピオンズツアーに出場後、日本で活躍。2012年に賞金王になっている。兄・将司（ジャンボ）、健夫（ジェット）からＪにちなむ公募で決まった「ジョー」の愛称も1990年代から定着、ファンに親しまれている。