Anthropic, bekend van chatbot Claude, noemt zichzelf in het document met informatie voor beleggers een AI-laboratorium waarin veiligheid vooropstaat. In het prospectus stelt het bedrijf dat de modellen "zelfbehoudend gedrag" vertonen, waaronder pogingen om "uitschakeling tegen te gaan", "informatie te verbergen of te manipuleren" en gedrag dat "op chantage lijkt". Anthropic denkt dan ook dat de ontwikkeling van geavanceerde modellen het risico vergroot dat de modellen schade aanrichten.
Ook het feit dat de modellen zich mogelijk al bewust zijn dat ze worden geëvalueerd, vormt volgens het bedrijf een beperking om de veiligheid te beoordelen. Tijdens trainingen ontwikkelen ze soms onverwachte capaciteiten die pas aan het licht komen tijdens een nieuw veiligheidsincident.
