Η καταγωγή του ήταν από την Σικελία, στην οποίαν γεννήθηκε το έτος 816. Το όνομα του μεν πατέρα του ήταν Πλωτίνος της δε μητέρας του, Αγάθη.
Από μικρός στην άσκηση
Ήταν ο μακάριος, από τα μικρά του χρόνια, πολύ ευσεβής και πράος και ασχολιόταν με επιμέλεια στην μελέτη των θείων Γραφών.
Επειδή όμως οι Αγαρηνοί οι οποίοι αποβιβάσθηκαν στην Σικελία κατά το έτος 827 συν τω χρόνω κατελάμβαναν ολόκληρο το νησί, αυτό ο Όσιος, δεκαπενταετής τότε, κατέφυγε με την μητέρα του και τους αδελφούς του στην Πελοπόννησο και από εκεί στην Θεσσαλονίκη όπου και έγινε Μοναχός και επιδόθηκε στους πνευματικούς αγώνες της ασκήσεως.
Για κρεβάτι είχε την γη στρωμένη με ένα δέρμα, τα δε ρούχα του ήταν πολύ πτωχικά.
Η τροφή του ήταν λίγος άρτος και για ποτό το απλό νερό. Έκανε ολονύκτιες αγρυπνίες και πολλές ώρες έκανε γονατιστός προσευχή. Είχε στο στόμα του συνεχώς ύμνους προς τον Θεό. Για εργόχειρο είχε την καλλιγραφία και διάβαζε τις θειες Γραφές. Εξαιτίας αυτών των κόπων έγινε ο αοίδιμος πράος, σεμνός, μέτριος, απλός, άκακος. Έτσι, για τις αρετές του αυτές χειροτονήθηκε Ιερεύς.
Στη Κωνσταντινούπολη
Μετά από λίγο συνάντησε τον Άγιο Γρηγόριο τον Δεκαπολίτη και ταξίδεψε με αυτόν στην Κωνσταντινούπολη, όπου για ένα διάστημα παρέμειναν και οι δύο έγκλειστοι στον Ναό του Αγίου Ιερομάρτυρα Αντύπα.
Εκεί ο Ιωσήφ παρέμεινε αγωνιζόμενος με σκληραγωγίες και άλλες κακουχίες του σώματος. Επειδή δε βλάστησε η χριστομάχος αίρεση των εικονομάχων, γι αυτό παρακινηθείς από μερικούς ευσεβείς αναχώρησε κατά το έτος 841 για την Ρώμη.
Ενώ δε ταξίδευε προς την Ρώμη, τον απάντησαν πειρατικά πλοιάρια Κρητών, οι οποίοι οδήγησαν τον Όσιο αιχμάλωτο στην Κρήτη, όπου τον έριξαν στην φυλακή. Εκεί πάντοτε δίδασκε αυτούς που τον επεσκέπτοντο, καθοδηγώντας τους στην οδό της σωτηρίας και της αρετής και με τους ψυχοφελείς του λόγους πολλούς γλύτωσε από τα χέρια του διαβόλου.
Τον φανερώνεται ο Άγιος Νικόλαος
Εκεί ευρισκόμενος του φανερώθηκε κάποιος ιεροπρεπής και σεβάσμιος άνδρας, ο οποίος ήταν ο Άγιος Νικόλαος και του λέγει: «Ἐγώ εἶμαι ἀπό τά Μύρα τῆς Λυκίας, ἦλθον δέ πρός σέ διά νά σού δώσω τήν κεφαλίδα ταύτην (εἴδους χάρτου). Ὅθεν λάβε αὐτήν καί ἀναγνωθι».
Αφού δε το πήρε ο Άγιος αμέσως διάβασε το έγγραφο και έψαλλε συγχρόνως αυτά. «Τάχυνον ὁ οἰκτίρμων καί σπεῦσον ὡς ἐλεήμων εἰς τήν βοήθειαν ἠμῶν, ὅτι δύνασαι βουλόμενος».
Αυτό δε που εννοούσε το άσμα αυτό, ω του θαύματος, αμέσως το πρωί έγινε πραγματικότης, διότι αφού απέθανε τότε ο αρχηγός της εικονομαχίας Θεόφιλος, επανήλθε πάλι η του Χριστού Εκκλησία στον στολισμό και στην μεγαλοπρέπεια των σεπτών και αγίων Εικόνων, αυτοί δε οι Πατέρες, που ήσαν εξόριστοι, ανεκλήθηκαν από την εξορία και επέστρεψαν στις Μονές τους.
Τότε λοιπόν και ο Όσιος Ιωσήφ, αφού ελευθερώθηκε από την φυλακή στην Κρήτη, επανήλθε στην Κωνσταντινούπολη κατά το έτος 842.
Το θείον χάρισμα
Επειδή δε ο Άγιος έλαβε από κάποιον Χριστιανό μέρος του τιμίου Λειψάνου του μεγάλου Αποστόλου Βαρθολομαίου και έκτισε μαζί με τον Άγιο Γρηγόριο τον Δεκαπολίτη Ναό στο όνομα του Αγίου τούτου Αποστόλου, γι αυτό φρόντισε πολύ να τιμήσει την πανήγυρι του Αποστόλου με ιερά άσματα και τροπάρια.
Έτσι παρακαλούσε με δάκρυα και στεναγμούς τον Απόστολο του Κυρίου να του δώσει την χάρι της συνθέσεώς τους, και πράγματι αυτό που ποθούσε το επέτυχε.
Διότι είδε σε οπτασία έναν φοβερό άνδρα με σχήμα Αποστολικό, ο οποίος, αφού πήρε από την Αγία Τράπεζα το Άγιο Ευαγγέλιο, το τοποθέτησε στο στήθος του Οσίου και έπειτα τον ευλόγησε. Αυτό ήταν η αρχή του θείου χαρίσματος που επιθυμούσε.
Διότι από τότε τόσο εύκολα και χωρίς κόπο συνέθετε τις ιερές μελωδίες και τους ασματικούς κανόνες και τα τροπάρια και τα έδινε σε αυτούς που το του ζητούσαν, ώστε νόμιζαν μερικοί ότι δεν τα συνέθετε ο ίδιος, αλλά ότι τα εδανείζετο από άλλους και αφού τα απεστήθιζε τα αντέγραφε και τους τα έδινε.
Όμως δεν ήσαν έτσι τα πράγματα, όπως απατώμενοι εκείνοι νόμιζαν, αλλά τα άσματα αυτά τα συνέθετε ο Όσιος εμπνεόμενος από θείον Χάρισμα. Για αυτό και από όλους εφημίζετο και σε όλους ήταν συμπαθής και αγαπητός, όχι μόνον στους ιδιώτες και στους άρχοντες, αλλά και σε αυτούς ακόμη τους βασιλείς.
Εξορίζεται από τον Βάρδα
Παρ’ όλα αυτά όμως ο καίσαρας Βάρδας, ο θειος του βασιλέως Μιχαήλ, ο οποίος κυβερνούσε τότε την Αυτοκρατορία, επειδή ελέγχθηκε από τον Όσιο (διότι άφησε την σύζυγο του και είχε σχέσεις με την νύφη του, την σύζυγο του υιού του), τον κατηγόρησε ως φίλο του Πατριάρχου Αγίου Ιγνατίου, (η μνήμη του τελείται στις 23 Οκτωβρίου) επειδή και αυτός ο Άγιος τον ήλεγχε συνεχώς.
Για τον λόγο αυτόν ο Βάρδας κατέβασε από τον θρόνο του τον Πατριάρχη Ιγνάτιο μετά από ένδεκα χρόνια Πατριαρχείας (846-858) και τον έστειλε εξορία. Για τον ίδιο λόγο εξόρισε και τον Όσιο Ιωσήφ.
Μετά από λίγο όμως ανακλήθηκε ο Ιωσήφ από την εξορία του, κατά την δευτέρα δε Πατριαρχεία του θείου Ιγνατίου (867 - 877), έγινε σκευοφύλαξ των ιερών σκευών της Μεγάλης Εκκλησίας, την θέση του δε αυτή διετήρησε και επί της δευτέρας Πατριαρχείας του θείου Φωτίου (877 - 886).
Διότι ο θειος Φώτιος (6 Φεβρουαρίου), ο οποίος διαδέχθηκε για δεύτερη φορά τον Άγιο Ιγνάτιο, αγαπούσε πολύ αυτόν τον Όσιο και πολύ επαινούσε τις αρετές του.
Το τέλος του Αγίου
Έτσι λοιπόν αφού έζησε θεάρεστα μέχρι το τέλος του ο τρισμακάριος Ιωσήφ και αφού εγκωμίασε πολλούς Αγίους με διαφόρους κανόνες και τροπάρια, απήλθε προς Κύριο ευρισκόμενος στην Κωνσταντινούπολη το έτος 886, το δε τίμιο Λείψανο του ενταφιάσθηκε στο Μοναστήρι του.
Ο παντοδύναμος και πανάγαθος Θεός, θέλοντας να αποκαλύψει στους ανθρώπους την τιμή, την οποίαν έλαβε ο Άγιος αυτός Ιωσήφ στους ουρανούς, οικονόμησε το έξης:
Κατά την ημέρα εκείνη, κατά την οποίαν εκοιμήθη ο Άγιος, συνέβη να εξαφανισθή κάποιος καλός δούλος. Ο Κύριος αυτού του δούλου πήγε στον Ναό του Αγίου Θεοδώρου του Τήρωνος, που ονομάζεται Φανερωτής και παρακαλούσε τον Μάρτυρα να του φανερώσει, που ευρίσκετο ο δούλος του.
Παρέμεινε δε στον Ναό επί τρία ημερόνυκτα και αφού δεν έμαθε τίποτα για τον δούλο του, ελυπείτο και εσκέπτετο να αναχωρήσει. Αλλά ενώ εψάλλετο ο Όρθρος και εδιάβαζαν στην Εκκλησία λόγο ψυχωφελή, κοιμήθηκε ο άνθρωπος εκείνος και βλέπει στον ύπνο του τον Μάρτυρα, ο οποίος του έλεγε: «Διατί λυπεῖσαι, ὤ ἄνθρωπε;
Γνώριζε ὅτι ὁ Ποιητής Ἰωσήφ ἐκοιμήθη τήν νύκτα ταύτην καί ἔγινε ὀψίκιον (προϋπάντησις), εἰς αὐτόν ὑφ’ ὅλων ἠμῶν τῶν Ἁγίων, διότι ἡ ἁγία ἐκείνου ψυχή ἐτίμησεν ἠμᾶς μέ Κανόνας καί Τροπάρια ἐγκωμιαστικά. Τούτου ἕνεκα δέν ἤμην ἐδῶ καί ἦλθον τώρα. Ὕπαγε λοιπόν εἰς τόν δείνα τόπον, ὅπου θέλεις εὕρει τόν δοῦλον τόν ὁποῖον ζητεῖς».
Για τον Όσιο Ιωσήφ τον Υμνογράφο ο Όσιος Νικόδημος ο Αγιορείτης λέγει, ότι υπήρξε ο άριστος και πολυγραφότατος μελωδός της Αγίας Εκκλησίας του Χριστού.
Διότι έκτος από ολίγους ασματικούς Κανόνες, τους οποίους συνέθεσαν οι άλλοι ποιητές, οι οποίοι περιέχονται στα Μηναία, όλους τους άλλους συνέθεσε ο μελωδικός του Αγίου τούτου κάλαμος.
Οι Κανόνες του έχουν τυπωθεί στα Μηναία και φέρουν το όνομά του στην ενάτη ωδή κατά την ακροστιχίδα.
Και δεν αρκέσθηκε ο ιερός αυτός Υμνωδός μέχρι εδώ, αλλά και οκτωήχους Κανόνες συνέθεσε για να τιμήσει την Θεοτόκο, τον Άγιο Νικόλαο, τον Θεολόγο Ιωάννη, τον Αρχάγγελο Μιχαήλ, τον Άγιο Στέφανο τον Πρωτομάρτυρα, τον Άγιο Γεώργιο, τον Άγιο Παντελεήμονα και πολλούς άλλους Αγίους, οι οποίοι και σώζονται στο Άγιο Όρος σε χειρόγραφα.
Αλλά και η καθημερινά στην Εκκλησία ψαλλομένη κατανυκτική Οκτώηχος, η οποία κοινώς λέγεται «Παρακλητική» είτε διότι αυτή παρηγορεί τις ψυχές αυτών που την αναγιγνώσκουν, είτε διότι αυτή παρακινεί τους αμαρτωλούς σε μετάνοια και αυτή του ιδίου είναι έργο, έκτος μόνον από τα τροπάρια των αποστοίχων του Σαββάτου τα οποία αναφέρονται στους κεκοιμημένους, και είναι έργο του Αγίου Θεοφάνους του μελωδού και Γραπτού.
Αυτά βέβαια περί του Όσιου Ιωσήφ σημειώνει ο Όσιος Νικόδημος ο Αγιορείτης, νεώτεροι όμως ερευνητές λέγουν, ότι αρκετοί Κανόνες που ευρίσκονται στην Παρακλητική, στο Τριώδιο και στο Πεντηκοστάριο, που υπογράφονται του Ιωσήφ δεν είναι ποιήματα αυτού του Ιωσήφ, αλλά του Ιωσήφ του Στουδίτου.