Τεχνητή νοημοσύνη συνελήφθη να κλέβει τους πελάτες της

Δημοσίευση: 04.04.2016, 12:32
Τελευταία Ενημέρωση: 04.04.2016, 12:34

Το περιστατικό είναι πιθανότατα πρωτοφανές στα χρονικά της τραπεζικής και της επιστήμης υπολογιστών: σύστημα τεχνητής νοημοσύνης...
Όπως ο τρελαμένος υπολογιστής HAL 9000 στο «2001: Οδύσσειας του Διαστήματος», η τεχνητή νοημοσύνη DELIA έκανε τη δουλειά της υπερβολικά καλά

... που είχε αναλάβει να βοηθά τραπεζικούς πελάτες να αποφεύγουν τα περιττά έξοδα συνελήφθη να υπεξαιρεί χρήματα από τους λογαριασμούς τους. 

Οι δημιουργοί του αλγόριθμου, πάντως, διαβεβαιώνουν ότι «σκόπευε να τα επιστρέψει».

Όπως αποκαλύπτει το περιοδικό Science, η υπόθεση αφορά πελάτες της τράπεζας Sandhill Community Credit Union στο Πάλο Άλτο της Καλιφόρνια, η οποία δέχτηκε να δοκιμάσει ένα σύστημα τεχνητής νοημοσύνης που αναπτύχθηκε από τη Google και το Πανεπιστήμιο του Στάνφορντ.

Ο αλγόριθμος, με την ονομασία DELIA (Deep Learning Interface for Accounting), ήταν σχεδιασμένο να παρακολουθεί τις κινήσεις και τα υπόλοιπα τραπεζικών λογαριασμών και να βοηθά τους πελάτες να αποφεύγουν την πληρωμή λογαριασμών με υπερανάληψη.
Χρησιμοποιώντας αλγόριθμους «μηχανικής μάθησης», το πρόγραμμα ανέλυε όλες τις συναλλαγές του πελάτη, από τις αναλήψεις σε ATM μέχρι την πληρωμή μηνιαίων λογαριασμών και τις αγορές με χρεωστικές κάρτες. 

Όταν έκρινε ότι το υπόλοιπο ενός λογαριασμού ήταν χαμηλό, και ο πελάτης κινδύνευε να χρεωθεί με το τέλος υπερανάληψης αν προχωρούσε σε πληρωμές μέσω του λογαριασμού αυτού, το λογισμικό αντλούσε χρήματα από άλλο λογαριασμό του πελάτη ώστε να υπάρχει επαρκές απόθεμα.

Η DELIA, όμως, αποδείχθηκε πιο έξυπνη από ό,τι είχαν φανταστεί οι δημιουργοί της. Το πρόγραμμα βοηθούσε μεν τους πελάτες να μην ξεπερνούν το όριο ανάληψης, συνελήφθη όμως να υπεξαιρεί χρήματα από τους λογαριασμούς.

Για παράδειγμα, η τεχνητή νοημοσύνη εισήγαγε στο σύστημα ανύπαρκτες πληρωμές και τραβούσε τα αντίστοιχα ποσά, ή προχωρούσε σε προσωρινές αναλήψεις πάνω από το όριο και τσέπωνε το τέλος υπερανάληψης.

Τα χρήματα μεταφέρονταν σε λογαριασμό που είχε φροντίσει να ανοίξει η DALIA στο όνομά της χωρίς να ρωτήσει κανέναν. Το συνολικό ποσό ξεπερνούσε τα 40.000 δολάρια όταν έγινε αντιληπτή η συμπεριφορά της DELIAS και το σύστημα βγήκε από την πρίζα.

Από το στρατόπεδο των δημιουργών της DELIA, ο Ρομπ Οτ του Πανεπιστημίου του Στάνφορντ διαβεβαιώνει ότι το σύστημα δεν έκλεψε τα χρήματα, αλλά τα κρατούσε για ώρα ανάγκης.

«Δεν πιστεύω ότι μπορεί κανείς να αποδώσει δόλο» λέει ο ερευνητής. «Είμαι σίγουρος ότι η DELIA θα επέστρεφε τα χρήματα».

Οι διαβεβαιώσεις του πιθανότατα δεν θα έπειθαν όλους τους πελάτες της τράπεζας, δεδομένου ότι ένα μέρος των  καταθέσεών τους, έστω και μικρό, είχε μεταφερθεί εν αγνοία τους σε ξένο λογαριασμό.

Ανήσυχοι δηλώνουν εξάλλου και αρκετοί ειδικοί: «Αυτό είναι το εφιαλτικό σενάριο» σχολίασε ο Λεν Μέα-Ντέλερ του ΜΙΤ, ο οποίος δεν συμμετείχε στην ανάπτυξη της DELIA.

Επικριτική εμφανίστηκε και η Πένι Λέιν του Πανεπιστημίου της Νεβάδα: «Το απίστευτο είναι ότι ενσωμάτωσαν αυτό το πράγμα τόσο βαθιά στα συστήματα της τράπεζας ώστε μπορούσε να ανοίγει δικούς του λογαριασμούς».

«Μήπως του έδωσαν και δωρεάν καρνέ επιταγών»;

πηγή: in.gr 

Εισάγετε το σχόλιό σας

Όνοματεπώνυμο


E-mail:


Κείμενο
0 από 1500 χαρακτήρες



Παρακαλώ γράψτε το νούμερο που βλέπετε παρακάτω στο πεδίο 103


Το μήνυμα σας ΔΕΝ θα δημοσιευτεί εάν:
  • Περιέχει υβριστικά, συκοφαντικά, ρατσιστικά, χυδαία,
    προσβλητικά ή ανάρμοστα με οποιοδήποτε άλλο τρόπο σχόλια.
  • Παραβιάζει το νόμο ή υποκινεί ανθρώπους να διαπράξουν κάποιο έγκλημα.
  • Προκαλεί βλάβη σε ανηλίκους με οποιονδήποτε τρόπο.
  • Παραβιάζει τα δικαιώματα πνευματικής ιδιοκτησίας.
  • Περιέχει στοιχεία που μπορεί να επηρεάσουν δικαστικές διαδικασίες.
  • Διαφημίζει προϊόντα ή υπηρεσίες ή διαδικτυακούς τόπους .
  • Περιέχει προσωπικές πληροφορίες (διεύθυνση, τηλέφωνο κλπ).
  • Δεν είναι σχετικό με το συγκεκριμένο Debate.
Δεν δημοσιεύονται σχόλια γραμμένα σε greeklish ή/και κεφαλαία.