Περίπου στη θέση του σημερινού χωριού Μύλοι υπήρχε επί Φραγκοκρατίας το χωριό Chiveri ή Κιβέρι. Υπάρχει και σύγχρονο χωριό «Κιβέρι» αλλά είναι αλλού, 4 χλμ πιο νότια. Το κάστρο βρίσκεται σε έναν όχι ιδιαίτερα απόκρημνο αλλά ερημοποιημένο χαμηλό λόφο ύψους 179 μέτρων που οι αρχαίοι ονόμαζαν Πόντινον όρος. Μέχρι τον 18ο αιώνα η τοπική ονομασία του λόφου ήταν «Τζιβέρι» (η ονομασία αυτή δεν χρησιμοποιείται πια καθώς το επίσημο τοπωνύμιο είναι το αρχαίο «Πόντινος»). Κατά την αρχαιότητα στη κορυφή υπήρχε ναός όπου λατρευόταν η Αθηνά Σαΐτις. Επίσης εκεί είχε το ανάκτορο του ο μυθικός Ιππομέδων (ένας από τους Επτά επί Θήβας).
Αυτά τα γνωρίζουμε από τον Παυσανία που επισκέφθηκε την περιοχή τον 2ο αιώνα μ.Χ. και που αναφέρει ότι είδε αμφότερα τα κτίσματα, που ήταν από τότε ερειπωμένα (Κορινθιακά, βιβλίο 2) Ο λόφος ήταν ιδιαίτερα σημαντικός κατά την αρχαιότητα καθώς δέσποζε πάνω από τη λίμνη Λέρνη, τόπο λατρείας του υγρού στοιχείου και τόπο τέλεσης μεγάλης ετήσιας μυστηριακής τελετής (Λέρναια). Πρόκειται για μικρό κάστρο (συνολικού εμβαδού 9.4 στρεμμάτων ) με τριμερή διαίρεση, που διατηρεί εξαιρετική οπτική επαφή τόσο με το Αργείτικο κάστρο της Λάρισας, όσο και με την Ακροναυπλία, και αποτελεί ουσιαστικά το παρατηρητήριο ελέγχου του κάμπου του Άργους και της νότιας εισόδου του Αργολικού κόλπου. Το κάστρο δεν διατηρείται σε καλή κατάσταση, αλλά προσφέρει πολύτιμα στοιχεία για την οχυρωματική τέχνη των Φράγκων επικυρίαρχων της Αργολίδας το 13ο και 14ο αιώνα. Είχε τρεις γραμμές άμυνας.
Ο περίβολος της ακρόπολης είναι εξαγωνικός, με διάμετρο περί τα 30 μέτρα, ενισχυμένος με πύργους που προσκολλώνται στις γωνίες. Λίγοι είναι οι πύργοι που σώζονται σε ικανό ύψος και διατηρούν ίχνη των εσωτερικών καθ’ ύψος διαιρέσεων. Η χάραξη της οχύρωσης είναι προσεγμένη, η κατασκευή επιμελής και η κάτοψη παραπέμπει άμεσα σε άλλα ιπποτικά κάστρα της Αργολιδοκορινθίας, όπως τα κάστρα του Αγιονορίου, του Αγγελοκάστρου και της Αλλαταριάς. Στο μέσο περίπου του περιβόλου σώζεται τμήμα του ορθογώνιου ακρόπυργου («donjon»), από τον οποίο σώζεται το νότιο ήμισυ. Η κινστέρνα στη νοτιοανατολική γωνία του υπογείου του κεντρικού πύργου, που φέρει κάλυψη από δυο καμάρες που στηρίζονται σε ισάριθμα τόξα, είναι το μόνο κτίσμα που διατηρείται σε σχετικά καλή κατάσταση.
Μια δεύτερη κινστέρνα με παρόμοιο τρόπο στέγασης σώζεται στα ανατολικά του πύργου. Το πλάτος των πύργων κυμαίνεται από 2.60 μ. έως 4.60 μ. Προεξέχουν από το τείχος κατά 2.5 μ. έως 3.0 . Το πάχος του τείχους του εξωτερικού περιβόλου 2μ. περίπου. Ο εξωτερικός περίβολος του κάστρου εκτείνεται προς βορράν της ακρόπολης για 80 μέτρα, και ως προς την κάτοψη παρουσιάζει σχετικά ακανόνιστη χάραξη, ιδιαίτερα στο δυτικό τμήμα, όπου τα μεταπύργια ακολουθούν το φρύδι του βράχου. Οκτώ πύργοι προσκολλώνται κατά κανόνα στις γωνίες και δεν συνδέονται με τα μεταπύργια, όπως ακριβώς και οι πύργοι της ακρόπολης.
Οι θέσεις των πυλών του κάστρου είναι δύσκολο να προσδιοριστούν, δεδομένης της μεγάλης κατάρρευσης των μεταπυργίων και των λιθοσωρών που έχουν συσσωρευτεί από το οικοδομικό υλικό. Στο εσωτερικό του περιβόλου σώζονται ίχνη πολλών κτισμάτων, από τα οποία έχει ερευνηθεί μονόχωρος ναός στα βορειοανατολικά, όπου το τείχος παρουσιάζει μιαν καμπύλη εκτροπή, προκειμένου να τον περιβάλλει από την ανατολική πλευρά.
Η τοιχοποιία των μεταπυργίων του εξωτερικού περιβόλου αποτελείται από μικρούς γκρίζους ασβεστόλιθους, που εξορύχτηκαν επιτόπου και πελεκήθηκαν ελάχιστα. Ο περίβολος της ακρόπολης και όλοι οι πύργοι, της ακρόπολης και του εξωτερικού περιβόλου, είναι κατασκευασμένοι με τους ίδιους ντόπιους ασβεστόλιθους και με ισχυρό συνδετικό κονίαμα. Σε αυτούς και μόνον έχουν κατά τόπους παρεμβληθεί στους κάθετους και τους οριζόντιους αρμούς μικρές λαξευτές πέτρες και θραύσματα κεραμίδων και πλίνθων.
