Er war ein apostolischer Vater, das heißt, er war Schüler eines der ersten Jünger Christi, und er war anderen wichtigen Persönlichkeiten der frühen christlichen Kirche bekannt, darunter Irenäus, der ihn als Jugendlichen kannte, und Ignatius von Antiochien, sein Kollege in der katholischen Ostkirche.
Zu seinen überlieferten Werken gehört ein Brief an die Philipper, in dem er den Apostel Paulus zitiert, von dem einige Zitate in den Büchern des Neuen Testaments und in den Apokryphen erscheinen. Polykarps Brief wurde von Gelehrten benutzt, um Paulus als den wahrscheinlichen Verfasser dieser Bücher zu identifizieren.
Polykarp wurde 155 n. Chr. vom römischen Reich als Verbrecher verurteilt und hingerichtet und war der zwölfte christliche Märtyrer in Smyrna; die Dokumentation seines Martyriums ist ein wichtiges Dokument in der Geschichte der christlichen Kirche.