kuninkaallisten rahoittama mielenterveyspuhelin jakoi käyttäjien keskusteluja | mielenterveys

Iso-Britannian suurin kriisitekstirivi ihmisille, jotka tarvitsevat kiireellistä mielenterveystukea, antoi kolmannen osapuolen tutkijoille pääsyn miljooniin viesteihin lapsilta ja muilta haavoittuvilta käyttäjiltä huolimatta lupauksesta, että he eivät koskaan tee niin.

Cambridgen herttuan ja herttuattaren kuninkaallisen säätiön 3 miljoonan punnan sijoituksella käynnistetty neuvontapuhelin Shout kertoo tarjoavansa luottamuksellista palvelua ihmisille, jotka kamppailevat selviytyäkseen sellaisista ongelmista kuin itsemurha-ajatuksista, itsensä vahingoittamisesta, hyväksikäytöstä ja kiusaamisesta.

Sen verkkosivuston FAQ-osiossa kerrottiin, että vaikka “anonymisoitu ja aggregoitu”, “korkean tason data” viesteistä välitettiin luotettaville akateemisille kumppaneille palvelun parantamista varten, “yksittäisiä keskusteluja ei voida eikä koskaan jaeta”.

Mutta tämä lupaus poistettiin sivustolta viime vuonna, ja pääsy keskusteluihin miljoonien ihmisten kanssa – mukaan lukien alle 13-vuotiaat lapset – on sittemmin annettu kolmansien osapuolien tutkijoille, Tarkkailla on löytänyt.

Neuvontapuhelinta ylläpitävä hyväntekeväisyysjärjestö Mental Health Innovations sanoi, että kaikki käyttäjät suostuivat palveluehtoihin, jotka sallivat tietojen jakamisen tutkijoiden kanssa tutkimuksia varten, jotka hyödyttäisivät viime kädessä palveluamme käyttäviä ja laajempaa väestöä.

Löydökset ovat kuitenkin johtaneet vastareaktioon tietosuojaasiantuntijoiden, dataeettisten ja neuvontapuhelinta käyttävien ihmisten keskuudessa, joiden mukaan tietojen jakaminen herätti eettisiä huolenaiheita.

Yli 10,8 miljoonaa viestiä 271 445 keskustelusta helmikuun 2018 ja huhtikuun 2020 välisenä aikana käytettiin Imperial College London -projektissa, jonka tavoitteena oli luoda työkaluja, jotka käyttävät tekoälyä ennustamaan käyttäytymistä, mukaan lukien esimerkiksi itsemurha-ajatukset.

Henkilökohtaiset tunnisteet, mukaan lukien nimet ja puhelinnumerot, poistettiin ennen viestien analysointia, sanoo Shout, jonka mukaan viestit oli “anonymisoitu”.

Mutta tutkimuksessa käytetty data sisälsi tutkimuksen mukaan “täydellisiä keskusteluja” ihmisten henkilökohtaisista ongelmista.

Osa tutkimuksesta pyrittiin poimimaan viesteistä tekstiviestien lähettäjien henkilökohtaisia ​​tietoja, kuten heidän ikänsä, sukupuolensa ja vammansa, jotta saataisiin parempi käsitys siitä, kuka palvelua käytti.

Cori Crider, lakimies ja Foxgloven, digitaalisten oikeuksien puolestapuhujaryhmän, perustaja, sanoi, että tutkijoiden pääsy viesteihin herätti “vakavia eettisiä kysymyksiä”. ”Luottamus on kaikkea terveydessä – ja ennen kaikkea mielenterveydessä. Kun aloitat sanomalla usein kysytyissä kysymyksissäsi, että “yksittäisiä keskusteluja ei voida eikä koskaan jaeta”; ja yhtäkkiä siirryt harjoittelemaan tekoälyä miljoonilla tuhansilla “täydellisillä keskusteluilla”, olet jättänyt taaksesi palvelemiesi haavoittuvien ihmisten tunteet ja odotukset”, hän sanoi. “Se on erityisen surullista, koska tämä voi hidastaa asianmukaista luvanvaraista tutkimusta vuosilla. Luottamuksen puute näihin järjestelmiin voi estää epätoivoisia ihmisiä tulemasta esiin.”

Toiset esittivät huolensa siitä, että palvelua käyttävät ihmiset eivät haavoittuvan tilansa vuoksi pystyneet ymmärtämään, miten heidän viestejään käytettäisiin kriisitilanteessa – vaikka heille kerrottaisiinkin, että sitä käytettäisiin tutkimuksessa. Noin 40 % auttavaan puhelimeen tekstiviestejä lähettävistä ihmisistä on Shoutin mukaan itsetuhoisia, ja monet ovat alle 18-vuotiaita.

Claire Maillet käytti Shoutia tukena vuosina 2019 ja 2020.

Claire Maillet, 30, joka käytti palvelua ahdistuksen ja syömishäiriön tukemiseen vuosina 2019 ja 2020, sanoi, ettei hänellä ollut aavistustakaan, että viestejä voitaisiin käyttää tutkimukseen. “Ymmärrykseni oli, että keskustelu pysyisi minun ja viestinvälittäjän välillä eikä menisi pidemmälle”, hän sanoi. “Jos olisin tiennyt, että niin käy, en voi varmuudella sanoa, että olisin silti käyttänyt palvelua.”

Maillet sanoi, että hän “ymmärsi täysin” tutkimuksen tarpeen “parantaa palveluita” tapauksissa, joissa ihmiset voivat antaa tietoisen suostumuksensa.

Mutta hän sanoi, että kriisipuhelimen keskustelujen käyttäminen herätti keskustelun luonteen vuoksi eettisiä huolenaiheita, vaikka nimet poistettiin.

“Kun olet siinä kriisipisteessä, et ajattele: “Käytetäänkö tätä tietoa tutkimukseen?” Voit pyörittää sitä tavalla, joka saa sen kuulostamaan hyvältä, mutta tuntuu, että he käyttävät hyväkseen haavoittuvuutta jollain tavalla.”

Phil Booth, terveystietojen yksityisyyden puolesta kampanjoivan medConfidentialin koordinaattori, sanoi, että “on kohtuutonta odottaa nuoren tai kenen tahansa kriisissä olevan henkilön ymmärtävän”, että heidän keskustelujaan voitaisiin käyttää muihin tarkoituksiin kuin tuen tarjoamiseen. . “On selvää syitä, miksi Shout saattaa joutua säilyttämään tiedot: kukaan ei kiellä sitä. Nämä muut käyttötarkoitukset: ne eivät vain ole sitä, mitä ihmiset odottavat.”

Hän lisäsi, että oli “harhaanjohtavaa” ja “selvästi väärin”, että hyväntekeväisyysjärjestö oli kertonut käyttäjille, ettei heidän henkilökohtaisia ​​keskustelujaan jaeta. “Jos annat tällaisen lupauksen, sinun tulee pitää se”, hän sanoi.

Shout perustettiin vuonna 2019 Cambridgen herttuan ja herttuattaren ja prinssi Harryn johtaman Heads Togetherin perinnönä. Kampanjan tavoitteena on lopettaa mielenterveyteen liittyvä leimautuminen. Palvelun tavoitteena on tarjota ympärivuorokautista mielenterveystukea Yhdistyneessä kuningaskunnassa asuville ihmisille, joista monilla on vaikeuksia päästä ylikuormitettuihin NHS-palveluihin. He voivat lähettää tekstiviestillä numeron ja saada vastauksen koulutetulta vapaaehtoiselta.

Mental Health Innovations toteaa, että keskeinen tavoite on käyttää “anonymisoitua, aggregoitua dataa ainutlaatuisen näkemyksen tuottamiseksi Yhdistyneen kuningaskunnan väestön mielenterveydestä”.

“Käytämme näitä oivalluksia parantaaksemme palveluitamme, tiedotamme uusien resurssien ja tuotteiden kehittämisestä ja raportoimme mielenterveysalaa kiinnostavista trendeistä”, se sanoo.

Kun palvelun käyttäjät ottavat ensimmäisen kerran yhteyttä Shoutiin, heille kerrotaan: “Tämä on luottamuksellista, ellemme ole huolissamme turvallisuutesi puolesta ja meidän on kerrottava jollekulle, että hän pitää sinut turvassa.” Heille lähetetään myös linkki tekstiin, jossa on linkki verkkosivustolle ja tietosuojakäytäntöön, jossa on viesti: “Käyttämällä palvelua vahvistat hyväksyväsi ehdot ja suostut tietojesi käsittelyyn.”

Usein kysyttyjen kysymysten aikaisemmissa versioissa oli kuitenkin lupaus, joka on sittemmin poistettu, eli ihmiset, jotka ovat aiemmin lähettäneet tekstiviestiä palveluun – mukaan lukien ne, joiden viestejä käytettiin tutkimuksessa – ovat todennäköisesti lukeneet myöhemmin muutettua tietoa.

Arkistoitu versio neuvontapuhelimen verkkosivustosta maaliskuusta 2020 osoittaa, että UKK-osiossa, käyttäjille kerrottiin: “Anonymisoimme ja kokoamme korkean tason dataa keskusteluista tutkiaksemme ja parantaaksemme omaa suorituskykyämme. Jaamme osan näistä tiedoista huolellisesti valittujen ja seulottujen akateemisten kumppaneiden kanssa, mutta tiedot ovat aina anonymisoituja, yksittäisiä keskusteluja ei voida eikä koskaan jaeta.”

Loppukeväällä 2021 UKK-osio päivitettiin ja lupaus yksittäisistä keskusteluista poistettiin. Tietosuojakäytäntöä päivitettiin myös sanomalla, että tietojen jakamisen lisäksi sitä voitaisiin käyttää “syvempiin ymmärrykseen Ison-Britannian mielenterveysympäristöstä yleisemmin”, mikä avaa oven laajemmalle valikoimalle käyttötarkoituksia.

Joulukuussa 2021 julkaistu Imperial-tutkimus sisälsi “kokoisten keskustelujen” analysoinnin manuaalisesti ja tekoälyn avulla, lehden mukaan. Palvelun parantamiseksi sillä oli kolme tavoitetta: viestien keskusteluvaiheiden ennustaminen, tekstiviestien lähettäjien ja vapaaehtoisten käyttäytymisen ennustaminen ja “täydellisten keskustelujen luokittelu demografisten tietojen ekstrapoloimiseksi” – esimerkiksi skannaamalla viestejä lukujen tai kouluelämän mainintojen löytämiseksi. mikä saattaa viitata käyttäjän ikään.

“Tulevaisuuteen katsoen pyrimme kouluttamaan malleja luokittelemaan tarroja, joita voidaan pitää suoraan toimivina tai jotka tarjoavat suoran mittauksen keskustelun tehokkuudesta. Esimerkiksi tulevaisuuden keskeinen tavoite on ennustaa tekstiviestintekijän itsemurhariskiä”, tutkijat kirjoittivat.

Tietoja käsiteltiin luotettavassa tutkimusympäristössä, ja tutkimus sai eettisen hyväksynnän Imperialilta, joka sanoi, että tutkimus “täysin noudatti” “tiukkoja eettisiä arviointikäytäntöjä” ja antoi “ratkaisevia näkemyksiä”.

Mutta tohtori Sandra Leaton Gray, University College Londonin kasvatustieteen apulaisprofessori, teknologian vaikutusten lapsiin ja nuoriin asiantuntija, sanoi, että hän tutkijana näki “paljon punaisia ​​lippuja” toissijaisen tiedon käytössä, mukaan lukien vanhempien suostumusta ei kysytty.

Tohtori Christopher Burr, etiikkatutkija ja tekoälyn asiantuntija Alan Turing Institutesta, sanoi, että vastuullinen data-analyysi voi tuoda valtavia etuja. Mutta hän sanoi, että se, ettei käyttäjille ollut tarpeeksi selkeää siitä, kuinka arkaluonteisia keskusteluja käytettäisiin, loi “epäluottamuksen kulttuurin”.

Huuta tekstiviesti Huuta auttava puhelin
Shout-apupuhelin kertoo, että se on luottamuksellinen.

“Heidän pitäisi tehdä enemmän varmistaakseen, että heidän käyttäjänsä saavat mielekkäästi tietoa siitä, mitä tapahtuu”, hän sanoi.

Huolet Shoutista johtuvat uutissivusto Politico Yhdysvalloissa tekemästä tutkimuksesta, joka paljasti amerikkalaisen mielenterveyshyväntekeväisyysjärjestön ja voittoa tavoittelevan yrityksen välisen tiedonjakamiskumppanuuden.

Shout on brittiläinen vastine Crisis Text Line US:lle, joka joutui aiemmin tässä kuussa tiukkaan tarkastelun kohteeksi sen suhteissa Loris.AI:n kanssa, joka lupaa auttaa yrityksiä “käsittelemään vaikeita asiakaskeskustelujaan empatialla”.

Kun yksityiskohdat kumppanuudesta Loriksen kanssa tulivat ilmi, Crisis Text Line katkaisi suhteet organisaatioon, ja Iso-Britannian käyttäjille vakuutettiin, että heidän tietojaan ei ollut jaettu Lorisin kanssa.

Sen lisäksi, että Mental Health Innovations on työskennellyt akateemisten tutkijoiden kanssa, se on solminut kumppanuuksia yksityisten tahojen kanssa, mukaan lukien Hive Learning, teknologiayritys.

Hive, jonka asiakkaita ovat Boots ja Deloitte, työskenteli Shoutin kanssa luodakseen tekoälypohjaisen mielenterveysohjelman, jonka yritys myy yrityksille auttaakseen niitä “ylläpitämään laajamittaista käyttäytymisen muutosta”. Sen omistaa Blenheim Chalcot, “Ison-Britannian johtava digitaalisten yritysten rakentaja”, jonka perusti Shout-valtuutettu Charles Mindenhall.

Mental Health Innovations sanoi, että Hiven kanssa ei ollut jaettu mitään tekstiviestikeskusteluihin liittyviä tietoja ja että sen koulutusohjelma on “kehitetty vapaaehtoisten koulutusmallimme oppimien perusteella”.

Lausunnossaan hyväntekeväisyysjärjestö sanoi, että kaikista akateemisten tutkijoiden, mukaan lukien Imperialin, kanssa jaetuista tiedoista on poistettu tiedot, kuten nimet, osoitteet, kaupunkien nimet, postinumerot, sähköpostiosoitteet, URL-osoitteet, puhelinnumerot ja sosiaalisen median kahvat, ja väitti, että se oli “erittäin epätodennäköistä “, että se voisi olla sidottu yksilöihin.

Se sanoi, että vanhempien suostumuksen pyytäminen ennen tietojen käyttöä tutkimuksessa “tekisi palvelusta monien lasten ja nuorten ulottumattomiin”, ja lisäsi ymmärtävänsä, että tekstiviestien lähettäjät “epätoivoisesti tarvitsevat välitöntä apua… eivät ehkä pysty lukemaan lähettämiämme ehtoja ennen kuin he aloittavat keskustelunsa kanssamme”, mutta tietosuojakäytäntö jäi heidän luettavaksi myöhemmässä vaiheessa. Jos he myöhemmin päättäisivät peruuttaa suostumuksensa, he voisivat lähettää tekstiviestillä “Loofah” auttavaan numeroon ja pyytäisivät tietonsa poistamaan, tiedottaja sanoi.

Victoria Hornby, Mental Health Innovationsin pääjohtaja, lisäsi, että Shout-keskusteluista rakennettu tietojoukko oli “ainutlaatuinen”, koska se sisälsi tietoa “ihmisistä heidän omin sanoin” ja se voisi avata valtavia etuja mielenterveystutkimuksessa.

Hän sanoi, että lupaus siitä, että yksittäisiä keskusteluja ei koskaan jaeta, oli usein kysytyissä kysymyksissä, eikä varsinaisessa tietosuojakäytännössä, ja se oli poistettu verkkosivustolta, koska se voi olla “helposti väärinymmärrettävä”, koska “yksittäisistä keskusteluista” on “erilaisia ​​tulkintoja”. ”tarkoittanut. “Emme halunneet, että se ymmärretään väärin, joten muutimme sen”, hän sanoi.

Ison-Britannian tietosuojavaltuutettu Information Commissioner’s Office sanoi arvioivansa todisteita siitä, miten Shout and Mental Health Innovations käsittelee käyttäjätietoja.

Tiedottaja sanoi: “Käsitellessä ja jakaessaan ihmisten terveystietoja, erityisesti lasten tietoja, organisaatioiden on oltava erityisen huolellisia ja otettava käyttöön suojatoimia varmistaakseen, että heidän tietojaan ei käytetä tai jaeta tavalla, jota he eivät odottaisi. Arvioimme tiedot ja teemme tiedustelut tästä asiasta.”

Isossa-Britanniassa ja Irlannissa samarialaisiin voi ottaa yhteyttä numerossa 116 123 tai sähköpostitse jo@samaritans.org tai jo@samaritans.ie.

Leave a Comment